背景
MLPerf Training 是 AI 產業公認的大型訓練效能基準測試,由 MLCommons 組織制定統一的模型、資料集與品質門檻,讓不同硬體平台的成績可以在相同條件下比較。對採購雲端運算資源的企業來說,這類測試結果往往是評估訓練成本與效率的重要參考。2026 年 11 月 16 日,Google Cloud 在 MLPerf Training v6.1 這一輪測試中提交了 10 項成績,涵蓋自家的第七代 TPU(代號 Ironwood)以及 NVIDIA 的 Grace Blackwell 系列 GPU,並首次參與代理式強化學習的基準項目。TPU 是 Google 自行設計、專為機器學習工作負載打造的加速晶片,與通用型 GPU 的定位不同;這次測試的重點,正是要展示 TPU 在大型訓練任務上的實際效能表現。
核心內容:Ironwood TPU 的訓練成績
在正面大型模型預訓練項目中,Google 使用 8,192 顆 Ironwood TPU,在 1.70 分鐘內達到基準要求的目標模型品質。值得注意的是擴展效率:當規模縮小到 4,096 顆晶片時,系統仍維持 96% 的效率,代表晶片數量翻倍後,整體運算資源並沒有被通訊開銷明顯吃掉。在大型分散式訓練中,晶片之間的資料交換往往成為瓶頸,能夠在高規模下保持接近線性的擴展,通常意味著晶片互連與網路架構設計良好。
另一項更具指標意義的是這次首度納入 MLPerf 的代理式強化學習基準。所謂代理式強化學習,是指模型在環境中一邊產生行動(例如撰寫程式碼)、一邊根據結果學習的訓練方式,這正是近年 AI 編碼助理背後的關鍵技術。Google 用 640 顆 Ironwood TPU 在 18.02 分鐘內達到目標準確率,實際成績 0.765,高於 0.69 的門檻。這項測試的技術難點在於程式碼生成與學習必須同時進行:Google 表示訓練晶片的閒置等待時間低於 3%,顯示資料生成與訓練兩端的協調相當順暢。
NVIDIA GPU 在 Google Cloud 上的表現
Google Cloud 同時也提交了 NVIDIA Grace Blackwell GPU 的成績,展現其基礎設施並非只服務自家晶片。在 A4X Max 執行個體上,256 顆 NVIDIA GB300 GPU 在 31.96 分鐘內達到目標模型品質。此外,Google Cloud 也以 A4X 與 A4X Max 配置提交了五項代理式強化學習的測試結果,涵蓋不同規模的部署情境。這些數據對企業用戶的意義在於:無論選擇 TPU 還是 NVIDIA GPU,都可以在 Google Cloud 的平台上取得經過第三方基準驗證的效能,減少自行試錯的成本。
脈絡解讀:共同設計與 AI Hypercomputer
Google 在說明這些成果時強調,成績來自 AI Hypercomputer 架構下的軟硬體共同設計。共同設計指的是晶片、網路與軟體在開發階段就彼此配合,而不是各自獨立優化。具體而言,Ironwood TPU 的互連設計、Google 資料中心的網路拓撲,以及開源軟體堆疊(如 XLA 編譯器與相關框架支援)共同決定了晶片數量擴大時的效率表現。96% 的擴展效率與訓練晶片低於 3% 的等待時間,正是這種整體設計在實測中的直接體現。而代理式強化學習首次成為 MLPerf 正式項目,也反映產業重心的變化:訓練不再只是把大模型餵資料,模型自我互動與持續學習的負載型態,需要不同的基準來衡量。
影響與限制
從實務角度來看,這輪結果提供了幾個可參考的訊號。第一,Ironwood TPU 在大規模預訓練上的擴展效率表現亮眼,對計畫進行超大規模訓練的團隊來說是一個具體數據點。第二,代理式強化學習有了公開可比較的基準,未來各家平台在這類負載上的差異會更容易被檢驗。第三,Google Cloud 同時支援 NVIDIA 最新 GPU 並提交成績,顯示雲端供應商在加速器選擇上持續走多元路線。
不過,解讀基準成績時仍需留意幾項限制。MLPerf 的測試模型與配置由提交方自行選擇規模,不同晶片數量下的分鐘數不宜直接互相比較,例如 8,192 顆 TPU 與 256 顆 GPU 的時間數字並不構成公平對照。基準成績反映的是特定模型在特定軟體堆疊下的表現,企業實際工作負載的特性(模型架構、資料管線、批次大小)都可能帶來不同結果。此外,這些數據由 Google Cloud 自行提交,正式結果仍以 MLPerf 官方公布的完整報告為準。總體而言,這輪測試確認了 Ironwood TPU 的效能水準,也為代理式強化學習的效能衡量建立了起點。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。