InfoQ 的 AI、ML 與資料工程編輯團隊在 2026 年 10 月底發布年度趨勢報告 podcast,由主編 Srini Penchikala 主持,與談者包括《AI Engineering》作者 Chip Huyen、InfoQ 副主編 Daniel Dominguez、研究顧問 Arthur Casals,以及專注 ML 基礎設施的 Hien Luu。這份報告的核心訊息很明確:AI 的重點已經從「模型能不能做到」轉向「系統能不能被信任」。距離 ChatGPT 問世已接近四年,企業用戶經歷了 RAG(檢索增強生成,一種把外部資料即時餵給模型的技術)與自主 Agent 的落地浪潮之後,2026 年的關鍵問題變成:一個原型跑得漂亮的 Agent,能否在真實工作流程中長期穩定運作?
語言模型層面出現明顯的兩極化發展。一方面,模型規模從動輒數千億參數的巨型模型轉向小型語言模型(Small Language Models),在多數使用情境下「夠準」且更快、更便宜;另一方面,具備逐步推理能力的 reasoning model 開始能在回答前先思考數學與邏輯問題。Chip Huyen 特別指出量化技術的進展驚人:兩三年前 4-bit 模型還被視為激進,如今 1 到 2-bit 的模型已能穩定運行。另外,大模型發布後幾週內常會透過蒸餾(distillation,用小模型模仿大模型輸出)推出效能僅低一兩個百分點、但成本低得多的版本。Arthur Casals 觀察到,業界的提問已從「哪個模型最好」轉為「哪種模型組合最適合這個工作負載的延遲、成本與資料邊界」,這代表模型正從整個問題的核心,變成架構中的一個元件,是領域成熟的跡象。
AI Agent 是 2026 年最大的主題,而且正快速攀升層級:從幫助個人的個人 Agent,到協作團隊,再到整個組織層級運作的系統。Daniel Dominguez 認為最大的轉變是 AI 從「互動」走向「委派」——過去是問一句答一句,現在的系統能規劃、使用工具、執行動作並長時間持續工作,AI 因此從介面變成接近執行層的存在。在軟體開發領域尤其明顯,從自動補全到 copilot,再到能導航程式碼庫、修改多個檔案、執行命令並自行迭代的 coding agent,開發者角色正在轉為定義意圖、審查決策與驗證產出的「Agent 編排者」。生態系也隨之成形:MCP 與 A2A 等協定可能成為新的企業整合層;各家的 Agent SDK 從只幫忙寫迴圈,擴充到記憶體管理與共執行等 harness engineering 能力。不過 Arthur 提醒,多 Agent 系統其實有數十年的學術積累,缺乏共享狀態、標準架構與統一的任務描述,跨系統協作時問題難度會呈指數上升;Chip 也分享了實際教訓——她搭建的多 Agent 協調機制因為 Agent 之間互相轉派任務,最後沒有任何一個真正完成工作。
推論(inference)與評估(evaluations)成為支撐 Agent 落地的兩大支柱。Hien Luu 指出 2026 年被稱為推論之年,vLLM、SGLang 等推論框架加上日益強大的 open-weight 模型,讓企業能在內部部署模型,對處理 PII(個人識別資訊)的金融業尤其關鍵。新興的「System One」模型如 TypeSafe AI 的 Jev,以極快推論與低成本見長,設計目的並非給人類閱讀,而是作為軟體對軟體的決策元件。評估方面,LLM 具有不確定性,Agent 可能走錯路或呼叫錯誤的工具,因此 DoorDash、LinkedIn、Uber 等公司都建立了 evaluation harness,將評估納入開發流程的核心步驟,作為對外發布的 go/no-go 關卡。Daniel 補充,一旦 Agent 能採取行動,光評估模型不夠,必須評估整個系統:任務是否完成、成本多少、耗時多久、需要多少人工干預、過程中是否做了不安全的事。
實體 AI(Physical AI)則是把這些軟體智慧連接到能在真實世界感知與行動的機器上。Daniel 強調它與軟體 Agent 的根本差異在於錯誤有物理後果——軟體 Agent 搞砸一個檔案可以重來,機器人摔下樓梯就沒辦法重置,因此可靠性、模擬、安全驗證更加重要。Chip 進一步分析機器人模型的資料難題:LLM 訓練在虛擬環境中失敗可回溯,機器人不行,探索成本極高;業界正在不同資料路線間押注,從中國政府投資的機器人訓練中心、讓人頭戴攝影機蒐集影片,到 Physical Intelligence、Generalist、Skild AI 等公司採用戴感測手套擷取觸覺資訊的中間路線。這個領域背後的資金規模,光幾家公司就各融資約十億美元等級。
對於來年,與談者的預測相當具體:Chip 期待美國機器人公司真正出貨可購買的機器人,並關注 OpenAI 與 Anthropic 的 IPO 對資金市場的影響;Daniel 預測能源將成為 AI 成長的最大限制,資料中心用電、冷卻與選址可能引發 AI 能源危機,而美中競爭將更像一場涵蓋晶片、能源、供應鏈的科技冷戰;Hien 認為每個 Agent 都會納入某種 Jev 型模型,且 Agent 對 Agent 的通訊會持續增加;Arthur 則押注成功部署會走向更窄的範圍——由小型專門 Agent 組成混合模型,差異化來自可信資料、權限控管與能衡量每項任務成本與品質的周邊系統。整體而言,2027 年最重要的 AI 故事可能發生在模型之外:基礎設施、地緣政治,以及人類如何學會信任並管理這些系統。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。