AI競爭轉向速度、調度與判斷

Published: August 26, 2026• 18 min readEdit on GitHub

Groq 3 LPX把推論速度推上前台,Einride準備把電動貨運接入AI調度,Faraday則讓研究代理負責挑選實驗。平台產品、資料權限與專用晶片也在改寫各自產業的落地方式。

產業一直在升級 AI 的「大腦」,但生成速度、任務管理與產品價格同樣會左右技術能否落地。研究代理與電動車隊的最新嘗試,也把競爭焦點從單一模型能力推向整套系統。

剪紙晶片沿多條運算路徑傳送資料,呈現推論速度與測試口徑的比較。

Groq 3 LPX主攻推論速度,成本降幅仍需分清口徑

NVIDIA 在 2026 年 8 月 24 日的 Hot Chips 大會宣布,Groq 3 LPX 已進入全面量產,並將它定位為 Vera Rubin 平台上的推論加速器。Groq 是一家推論晶片新創;NVIDIA 的公告引用 Artificial Analysis 的測試指出,Groq 3 LPX 執行 Gemma 4 31B、使用 10 萬 token 上下文時,每秒生成 3,400 個輸出 token;NVIDIA 也稱 Nebius 是第一家採用該系統的 AI 雲端。關於交易背景,報導把 NVIDIA 去年取得 Groq 技術的安排寫成 200 億美元收購,並稱 Groq 當時估值不到 70 億美元;但《The Register》記載的是 NVIDIA 以約 200 億美元非專屬授權 Groq 的智慧財產與軟體,Groq 在 2025 年融資時估值為 69 億美元,並繼續以獨立公司營運。因此,把交易直接說成「收購 Groq」並不準確,「收購後首款晶片」也不能當成已確認事實。原評論把這個價碼形容為高得離譜,並稱多數分析者認為交易過度;但目前可讀的《The Register》報導對交易是否划算的結論仍是作者推測,並指出是否值得取決於衡量方式,沒有證明多數分析師形成共識;這仍屬來源評價。NVIDIA 的正式公告、技術授權與 Groq 估值的報導

《SiliconANGLE》將這組測試結果形容為反應速度約為競品 4 倍。原評論另以 5,000 token 的回覆從 50 秒縮短至 1.5 秒,以及生成成本降低 35 倍為例;但可讀的《SiliconANGLE》報導記錄的是前段所述的 3,400 tokens/s 測試,沒有提供 5,000 token 的前後測,NVIDIA 公告與連結中的 LPX 說明也沒有支持每 token 成本降低 35 倍。因此,這組時間比較與成本倍數僅保留為原評論的未獨立確認說法,不能當成已驗證的 benchmark,也不能與 NVIDIA 公布的每秒 token 數混為一談。原評述認為模型愈做愈聰明、回應卻愈來愈慢;每增加一個推理步驟都可能多等幾秒,十步代理任務可能就要等上一分鐘,Groq 3 LPX 的目標就是把等待從瓶頸移開。這項估算用來說明產品方向,但沒有公開測試條件;加速生成也不會自動讓模型更聰明。《SiliconANGLE》報導、NVIDIA 對 Vera Rubin 推論架構的說明

過去兩年,AI 產業大多把競爭焦點放在打造更聰明的模型;現在同樣重要的,是讓模型更快、更有效率地服務長流程任務。若推論成本真的大幅下降,原本不划算的產品確實可能變得可行。原評述進一步認為,從一年後回頭看,這筆安排可能是 AI 領域最便宜的基礎設施投資,但這是投資評價,現有基準資料不足以證明它的商業回報;在計算口徑未公開前,「便宜 35 倍」仍是原評論的推測,不是已證實的產業結果。

多輛電動半聯結車連接充電站與物流節點,呈現車隊調度的系統價值。

500 輛 Tesla Semi計畫,貨運價值落在車隊調度

Einride 於 8 月 18 日宣布,計畫將 500 輛 Tesla Semi 納入 Saga AI 車隊平台,服務 Amazon 等客戶,並沿加州、德州、紐澤西州、伊利諾州與喬治亞州的貨運走廊部署。計畫預計自 2026 年 9 月起分批部署,並在接下來 24 個月內推進,由第三方融資支應;Einride 將它稱為當時規模最大的 Tesla Semi 部署。Tesla 2017 年第三季更新曾預告 Semi 將於同年 11 月 16 日亮相。另有Reuters 報導稱 Semi 在 2026 年 4 月進入高量產,但 Tesla 的 2026 年第一季更新只將 Semi 列為試量產、產能未定,未能直接確認 4 月的量產進度。Einride 的部署計畫、Tesla 2017 年第三季更新、Tesla 2026 年第一季更新

Einride 執行長 Roozbeh Charli 說,與 Tesla 合作把新一代 Semi 快速投入規模化營運,顯示技術正「從承諾走向日常作業」。這項採購不是為了表態,而是要測試 AI 驅動貨運能否在大規模車隊中運作。Saga AI 的作用是把單輛電動卡車協調成車隊網路,處理充電時間與能源成本等變動因素;至於將路線、載重、充電窗口與司機安排進一步納入 AI 調度,則是對這項部署的策略想像,並非公告已證實的完整功能。報導引用 PepsiCo 等早期採用者,估計電動卡車每年每輛比柴油車省約 5 萬美元,並將這視為硬體層的收益;原文連結的Investor's Business Daily 報導目前可讀的頁面快照未呈現這項估算。可讀的《Trucking Dive》報導則記載,PepsiCo 預估其 Fresno 的 50 輛電動半掛卡車可省近 100 萬美元燃料費,按車數平均,約為每輛 2 萬美元;該報導沒有交代這個估算的計算期間。兩組數字的車隊、里程、期間與成本口徑不同,5 萬美元不能直接當成所有車隊都適用的年節省額。原報導把路線、載重、充電窗口與司機安排的 AI 調度視為更大的潛在變化;它也推論,單一公司部署 500 輛車可能改變貨運單位經濟,若全產業跟進,物流定價模式可能重寫。這些仍是對未來的分析,不是已發生的市場結果。《Trucking Dive》對 PepsiCo 電動車隊的報導

從 Tesla 2017 年預告 Semi 亮相,到 Einride 規劃部署車隊,前後將近十年;原評論認為,車是較難的一步,整合車隊的網路才是真正的變革來源,並把 CEO 所說的「從承諾走向日常作業」形容為輕描淡寫。Einride 買的不只是 500 輛車,而是想把車輛、充電與貨運需求整合成可調度的網路。不過這批 Semi 仍將按分階段計畫部署,現有資料能證明的是合作規模與時程,還不能證明整個物流產業的單位經濟或定價模式已經改變。

開發者檢視程式助手的回應波形與設定旋鈕,呈現速度感受和設定透明度。

Claude Code的「10」引出設定透明度問題

開發者 argofowl 的公開貼文記錄了他排查 Claude Code 為何感覺變慢的過程:先檢查程式、執行環境與 Mac,數小時後才在 API 紀錄中看到「high」顯示為「10」。8 月 22 日建立的GitHub issue轉引該貼文,並記錄另一名 Fable 5 使用者在 Windows 11 測試時看到「high」對應 25;issue 作者推測,部分 Fable 5 sessions 可能被納入未向使用者說明的伺服器端 effort 映射測試。Claude Code 團隊成員 Thariq 隨後確認當時有一項 API 服務設定正在測試,並改變 effort 數值映射,但沒有單獨確認各使用者的測試分組;他表示,使用者選擇的 effort 仍會套用,內部評估未發現模型表現受影響。不同使用者的數值紀錄不能單獨證明模型推理能力降低。Claude Code 團隊的回覆

原評論的餐廳比喻是:顧客吃到熟悉菜色的變化後詢問店家,才發現對方正在測試新配方;顧客被分到測試組,帳單上的數字又無法說明菜色差異。原評論把這種情況視為信任破口,而非普通產品迭代,並稱付費開發者在未獲告知下遇到不同體驗。Anthropic 的工程師說明了技術理由,但原評論認為這沒有回應問題核心:付費使用者是否知道服務設定正在改變。若控制項顯示改變卻沒有清楚說明,使用者就難以判斷是標示調整、服務變化,還是自己的任務出了問題。

目前的公開說明沒有證明 Anthropic 偷偷降低了 Claude 的推理能力;目前可確認的是,服務端曾進行 effort 數值映射測試。原評論認為,若公司改變付費服務卻沒有先告知,就破壞了「付費者知道自己買到什麼」的基本約定。產品信任仍取決於使用者能否看懂自己選了什麼,以及實驗何時會改變可見設定。

研究代理對照論文、實驗器材與多條測試路徑,呈現驗證而非魔法式突破。

Faraday把研究代理的優勢放在實驗判斷

由 DeepMind 前成員創立的倫敦 AI 實驗室 Inherent 發表 Faraday,目標是自行重現已發表的科學研究。Inherent 表示,Faraday 使用 270 億參數的 Qwen 3.6,透過長程強化學習培養科學判斷,學習選擇實驗、設計實驗與決定何時停止;編碼工作則交由 GPT-5.5 Codex。在 Inherent 自行設計的論文重現基準測試中,團隊稱 Faraday 的表現優於單獨使用 Claude Opus 4.8 或 GPT-5.5 Codex。Inherent 的研究介紹、TechCrunch 對 Faraday 的報導

AI 實驗室已投入數十億美元,透過增加模型參數與算力、開發成本日益攀升的前沿模型來擴大能力;Faraday 提出的不同方向,則是讓較小的研究模型負責決定「接下來值得做什麼」,再把程式執行交給較強的編碼代理。這讓管理實驗的判斷力與執行工作的能力可以分開設計:產業也許一直在讓工作者更聰明,卻忽略了管理者是否選對工作。不過目前的優勢來自 Inherent 自己的測試,尚不足以證明較小模型普遍勝過前沿模型,也不能直接推論整個產業都把資源押錯方向。

如果獨立團隊能在不同研究題目上重現 Faraday 的結果,AI 系統的瓶頸可能不只在模型大小,也在挑選假設、分配工具與判斷何時停止。原評論據此推測,若 Faraday 的優勢能在 Inherent 自家的基準測試之外成立,AI 實驗室或許把數十億美元投入了錯誤的擴展方向;真正需要驗證的,是這種研究管理能力能否離開原始團隊後仍然成立。

其他產業動態

Meta 據報準備推出 Hatch。 《The Information》引述內部資料稱,Meta 計畫在未來數週推出面向消費者的 AI 代理平台 Hatch,並希望把 AI 投資轉成廣告以外的付費產品;Yahoo Tech 與 PYMNTS 均指出,Meta 尚未正式確認這項計畫。Yahoo Tech 的報導、PYMNTS 的報導

Nebius 將成為 Groq 3 LPX 的首家雲端採用者。 NVIDIA 表示這款推論加速器已進入全面量產,Nebius 計畫把它納入 Token Factory;這是 NVIDIA 公布的合作與採用計畫,不代表全面部署已經完成。NVIDIA 的量產與採用公告

General Intuition 估值目標上看 60 億美元。 TechCrunch 報導,這家開發世界模型的公司正與投資人洽談新一輪融資,目標是讓模型能理解與操作物理空間,並為未來機器人提供能力;融資尚未完成。TechCrunch 的募資報導

Instinct 的常駐助理引發隱私疑慮。 TechCrunch 報導,這項服務可連接電子郵件、訊息、行事曆、螢幕、音訊與位置資料;測試者對這項服務長時間保持開啟、並可存取多種私人資料的設計提出疑問。能連接資料不等於已發生濫用,但也讓使用者必須看清楚代理取得哪些權限、如何使用資料。TechCrunch 對 Instinct 的報導

英國與烏克蘭建立 AI 國防合作。 英國政府公告稱,兩國已簽署合作安排,讓英國團隊接觸烏克蘭 Avengers AI Labs 的戰場資料,作為共同開發國防技術的基礎;這是政府公布的合作計畫,後續成果仍待專案推進。英國政府公告

Waymo 將感測器資料處理放到自研晶片。 Waymo 介紹其 5 奈米 ASIC,可在資料進入自動駕駛核心系統前處理 13 部高解析度車載攝影機的原始資料。自訂晶片讓感測器、演算法與前端運算可共同設計,焦點是提升資料處理效率與低光源感知能力。Waymo 的工程說明

Descartes 收購 AI 貨運平台 Tai。 Descartes 公告稱,收購金額約為 1 億美元;Tai 為貨運經紀商提供 AI 交通管理平台,把報價、承運商配對、貨運執行、帳務與客戶互動整合到物流軟體網路中。Descartes 的收購公告

人工智慧推論晶片智慧貨運研究代理