Hugging Face 在 11 月 16 日發布公告,宣布與 OpenRouter 合作,讓開放權重模型更容易被直接執行。這裡所稱的開放權重模型,是指模型權重可公開下載,開發者能自行部署,或交由第三方推論服務代管;它不等於完整開源,因為訓練資料與相關程式碼未必一併公開。Hugging Face Hub 已是這類模型的主要發布場域,但模型發布之後,實際推論還牽涉到另一個問題:要由哪一家供應商來執行,以及價格、速度與穩定度如何取捨。
OpenRouter 的角色,是把模型推論需求聚合起來,再路由到多家推論供應商。根據公告,OpenRouter 連接 80 多家供應商,並依即時測量結果分配請求。過去,Hugging Face 的 Inference Providers 使用自建路由器,替每個請求挑選一家供應商;如果該供應商失敗,請求就回傳錯誤。這次改變的核心,是把語言模型請求改由 OpenRouter 路由,讓同一個請求能在價格、速度與可靠度之間取得較佳組合,並在首家供應商失敗時改試另一家。
核心變化:同一個權杖與 API 呼叫開放權重模型
合作的直接效果,是 Hub 上由供應商服務的開放權重模型,可以用 Hugging Face 權杖呼叫,並走同一套 API。對開發者而言,程式碼不需要改寫,原本使用 OpenAI Chat Completions、OpenAI Responses 或 Anthropic Messages API 的聊天模型呼叫方式,都能繼續運作,差別在於背後的供應商由 OpenRouter 路由決定。公告也列出 Claude Code、Codex、OpenCode、Pi 與 Hermes Agent 等工具的設定指引,讓使用者能把既有代理工具或 SDK 接上模型。
同一個 Hugging Face 權杖還可用於 Storage Buckets、Jobs 與 Inference Endpoints,分別對應儲存、運算與專用推論。PRO、Team 與 Enterprise 方案包含每月運算與推論額度。這種設計的意義,是把模型探索、推論呼叫與帳務集中到同一個帳號體系,降低從「找到模型」到「實際跑起來」之間的整合成本。
路由怎麼運作:不再只看最低牌價
OpenRouter 每月服務超過 800 兆個 token,使用者超過 1,000 萬,涵蓋 600 多個模型與 80 多家供應商。它的路由依據來自平台流量中的即時測量,而不是靜態價目表。OpenRouter 最近重建供應商路由,原本只挑選最低牌價,現在改為綜合價格、速度與可靠度,把請求送往當下表現較好的供應商。當某家供應商變慢或開始失敗,流量會先移開,直到它恢復;若第一次嘗試失敗,系統會在同一個呼叫內重試下一家較佳供應商。
根據 OpenRouter 的測量,新路由讓容量錯誤減少 46%,首字延遲改善 16.9%,吞吐量提升 16.3%。這些數字是平台自身的觀測結果,但仍說明路由策略從「選一家」變成「即時避開壅塞與故障」後,對實際體驗有明顯影響。使用者也保留控制權,可在模型識別碼後加註後綴,例如 zai-org/GLM-5.3 採用預設的價格、速度與可靠度混合策略,zai-org/GLM-5.3:fastest 追求最高吞吐量,zai-org/GLM-5.3:cheapest 追求最低價格,zai-org/GLM-5.3:novita 則只使用 Novita。
路由也具備快取感知能力。若某段對話的提示快取存放在特定供應商,系統會盡量讓後續請求留在該供應商,避免更換節點後重新處理提示而增加成本與延遲。若要明確維持同一段對話,可在 X-HF-Session-Id 標頭中帶入每段對話固定的 UUID。這代表路由不只是比價,也必須理解推論工作負載的狀態性。
數據背後的意義:便宜與能力之間的取捨
公告引用 OpenRouter 的統計指出,開放權重模型在平台上的 token 占比,從 2025 年 10 月的 26.8% 上升到 2026 年 9 月底的 71.7%,並在 7 月達到 77.5% 的高點。同期間,開放權重模型的每週使用量成長超過 60 倍,封閉模型則接近 10 倍。公告當週使用量最高的模型是 DeepSeek V4.1 Flash 1017,達到 59.2 兆個 token。這組數據反映的是 OpenRouter 平台上的採用趨勢,不代表整體市場,但足以說明開放權重模型已從少量實驗走向大量生產流量。
成本差距是主要推力。開放權重模型平均每百萬輸入 token 約 0.28 美元、每百萬輸出 token 約 1.62 美元;封閉模型則約 1.27 美元與 6.36 美元。換算下來,開放權重模型的推論單價明顯較低。不過,能力仍有差距。在 Artificial Analysis Intelligence Index 上,最佳的開放權重模型 Kimi K3.1 Pro 得分 46,Claude Fable 5.2 得分 65;但前者每任務成本約 3.68 美元,後者約 26.54 美元,差距約七倍。對許多工作負載而言,這種「能力略低、成本大幅下降」的取捨是合理的;對最困難的基準任務,頂尖封閉模型仍保有優勢。
影響與限制:帳單、金鑰與多模態的邊界
計價方式沒有改變。使用者依供應商價格支付,Hugging Face 不在其上额外加價;PRO 使用者每月可獲得 2 美元額度,Team 與 Enterprise 組織則按席次每月獲得 2 美元。這表示路由雖然換了,帳務仍留在 Hugging Face 帳單中。模型頁面也提供更多透明度:Providers 分頁列出 OpenRouter 可路由的供應商,以及過去 24 小時的輸入與輸出價格、速度與正常運行時間;Metrics 分頁則整理最佳價格、吞吐量、首字延遲、上下文長度與正常運行時間。使用概覽會把支出拆分到實際承接請求的供應商,設定頁面則可關閉不想使用的供應商,路由器不會再把請求送往該處;組織層級也有相同設定,並套用到所有計費到組織的請求。
需要特別注意的是自訂供應商金鑰的破壞性變更。語言模型請求現在改由 OpenRouter 處理,並計費到 Hugging Face 帳號或組織,因此不能再針對這些模型使用自己的供應商 API 金鑰。若仍想指定供應商,可以使用 model:provider 後綴,或在設定中關閉特定供應商;程式碼本身不變。影像與影片供應商的自訂金鑰則不受影響。影像、影片與音訊生成也繼續直接走 Hugging Face Inference Providers,不經過 OpenRouter,使用相同權杖與 API,並可存取數萬個 LoRA。這劃出了此次變更的邊界:聊天與語言模型進入新的路由體系,多模態生成仍維持原路徑。
公告將此定位為雙方合作的第一步,後續包括讓使用者連接 OpenRouter 帳號到 Hugging Face,以及把更多任務導向 OpenRouter。整體來看,這次整合解決的是開放權重模型「可用」之後的「好跑」問題:以統一權杖、統一 API 與即時路由,降低多供應商選擇與故障處理的複雜度;但路由成效仍取決於平台測量與供應商狀態,成本優勢也必須與基準能力一併評估。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。