背景：代理需要的是判斷，不是一段文字
Cloudflare 在自家的 Birthday Week 活動期間宣布開源 Clef，這是一組以開放權重形式釋出的 AI 模型，用途不是生成文章或對話，而是從事先定義好的選項中挑出答案。InfoQ 在 2026 年 10 月 8 日、由 Renato Losio 撰寫的報導中整理了這次發布的內容與社群反應。Cloudflare 同時釋出 9B 與 27B 兩種參數規模的版本，並提供一個用來把模型適配到特定決策任務的平台。
對建構 AI 代理的團隊來說，這則消息觸及一個實務痛點。代理在執行流程中會不斷遇到分類式判斷，例如一則客服訊息該直接回覆、升級給真人處理，還是先擱置等待更多資訊；又或者某個請求該被視為正常流量或疑似自動化行為。這類決定過去通常由大型語言模型生成一段文字，再由程式解析欄位，或改用規則與小型分類器處理。前者容易因輸出格式不穩定而增加工程負擔，後者則難以涵蓋語意複雜或帶有圖像的輸入。Clef 的定位，就是把「選擇」獨立成一個專門的模型任務。
核心運作方式：帶型別的題目與機率輸出
27B 的 Clef 是多模態模型，輸入由兩部分組成：當前狀態，以及一份帶有型別的題目結構。模型會在單次前向傳遞中，針對每個題目的每一個允許選項回傳一個機率，不會生成自由形式的文字，也不需要額外的輸出解析。輸入可以是文字、JSON、圖像或影片。
這種設計稱為決策模型：它對輸入進行分類，回傳帶型別的結果與機率，代理再根據這些結果決定行動，例如把支援請求路由到合適的處理佇列、升級處理層級，或把決定權交還給人。由於題目與選項都在事前定義好，模型只能在有限集合中輸出，上層系統可以直接使用這些結果，也能設定機率閾值，在信心不足時改走人工流程。Cloudflare 的 API 與 Typesafe AI 的 Jev System One 模型相容，既有採用 Jev 的團隊因此在遷移或比較時多了一個選項。
技術差異與延遲表現
Cloudflare 的產品經理 Michelle Chen、首席機器學習工程師 Alex Reneau 與資深工程經理 Kevin Flansburg 在官方部落格中說明 Clef 與其他決策模型的不同。第一，Clef 具備視覺編碼器，能接收圖像並對視覺內容進行分類，而 Jev 目前只做文字分類。第二，Clef 的上下文視窗為 64k，相較 Jev 的 32k 更大，使用者可以放入更多輸入狀態供模型判斷。
延遲方面，Cloudflare 另外釋出 Clef-Flash，這是 9B 的多模態模型，針對對延遲敏感的決策場景設計。在 Cloudflare 自家的基準測試中，Clef-Flash 的中位延遲為 38.8 毫秒，27B 的 Clef 則是 209.3 毫秒。由於模型託管在 Cloudflare 的基礎設施上，可運用位於邊緣的 GPU，換得較低的網路延遲與更快的決策速度。官方據此認為，Clef 可以放進代理的 hot path，負責即時判斷，再搭配 Workers AI 上的大型語言模型採取後續行動。對代理而言，每一次判斷都可能是流程中的必經步驟，延遲會直接反映在使用者等待時間與整體成本上，這也是為什麼 9B 版本被獨立拉出來強調。
社群對新類別與基準測試的質疑
在 Hacker News 的熱門討論串中，社群圍繞決策模型、延遲、開放權重，以及這是否真為一個新的模型類別展開爭論。開發者 Jacek Złydach 直言，這不是什麼新範式，而是一個擺在那裡多年的低垂果實；Typesafe 是第一個願意停下來把它撿起來並大力行銷的團隊。
基準測試的結果也引來質疑。使用者 SebastianSosa 提醒，公開基準很容易被操弄，如果他是 Typesafe，同樣會發布一份公開基準，把有能力的人引導去過度擬合基準，而不是去做真正有用的東西。在 Reddit 上，使用者 bugra_sa 則把焦點放在模型的不確定性處理：他更在意 Clef 是否知道什麼時候該放棄判斷，而不只是原始準確率；他建議用假陽性代價遠高於漏判的情境來測試，再刻意改變資料，觀察模型的信心何時崩解。如果信心始終不墜，基準數字本身意義就不大。這些意見指向同一個問題：決策模型的價值不只在於答對多少，也在於它能否誠實表達不確定性。
後續計畫與實務限制
Cloudflare 表示計畫針對特定用例微調 Clef，例如客服分流與機器人分類，並使用自家累積的歷史標註資料來提升準確率與速度。該公司同時宣布一項微調服務，讓客戶用自己的資料把 Clef 適配到自身工作負載；初期由 Cloudflare 工程師協助，自助式平台則規劃在後續版本推出，目前尚未公布確切日期。
在取用方式上，Clef 模型已可透過 Workers AI 使用，權重也能在 Hugging Face 下載，Cloudflare 邀請開發者試用並提供回饋。從實務角度看，決策模型把代理流程中的判斷環節收斂成帶機率的型別輸出，能減少輸出解析與格式錯誤的風險，也讓延遲更容易預估。不過，準確率與信心校準是否可靠、公開基準能否反映真實工作負載，以及微調後的模型是否仍具備足夠的棄權能力，仍是採用前需要驗證的限制。這些問題在社群討論中已被明確提出，卻還沒有來自獨立評測的答案。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。