很多工程師在開發 AI Agent(智慧代理)時,會發現大部分的時間都花在處理所謂的 Plumbing(水電工程)。什麼是水電工程?就是那些重複且瑣碎的基礎建設:如何管理工具呼叫、如何維護對話狀態、如何建立安全護欄(Guardrails),以及如何將單一 Agent 擴展為多 Agent 協作。通常你得花一週時間挑選框架、對接模型 API、寫工具適配,最後才開始寫 Agent 真正該做的事情。
IBM 推出的 CUGA(Configurable Generalist Agent)試圖翻轉這個過程。它不把自己定義為一個需要學習複雜 API 的框架(Framework),而是一個 Agent Harness(代理執行環境)。簡單來說,Harness 就像是一個預裝好的底盤,它幫你處理好了規劃、執行迴圈、工具調用和狀態管理,開發者只需要定義兩件事:Agent 能用哪些工具,以及你要求它做什麼。
為什麼需要 Harness 而不是框架
在開發 Agent 時,最容易出錯的是長路徑任務。當一個任務需要執行二十個步驟時,很多 Agent 會在中間步驟迷失,或者在下一次嘗試時錯誤地推導中間結果。CUGA 解決這個問題的方式是在底盤中內建了規劃(Planning)與反思(Reflection)機制。它會在行動前先規劃,執行後會檢查結果,如果發現錯誤會重新規劃而非盲目前進。
這種設計將負擔從模型端轉移到了執行環境端。通常我們傾向使用最強大的模型(如 GPT-4)來彌補邏輯缺陷,但 CUGA 透過強大的 Harness 機制,讓較小規模的開源模型也能在複雜基準測試(如 AppWorld 和 WebArena)中表現出色。
實務開發模式:工具與提示詞的組合
以一個 IBM Cloud 顧問 Agent 為例,整個應用可以精簡在一個 Python 檔案中。開發者只需建立一個 CugaAgent 物件,傳入模型、工具清單和系統提示詞(Special Instructions)即可。
在工具管理上,CUGA 採取了混合模式。通用且無狀態的功能(例如網頁搜尋、維基百科)透過 MCP(Model Context Protocol,一種標準化的模型上下文協議)伺服器直接調用,無需自行維護。而針對特定業務的邏輯(例如查詢內部產品目錄),則直接以 Python 函數定義。
這裡有一個關鍵的工程實務:所有自定義工具必須返回統一的封裝格式(例如包含 ok 狀態與 data 的 JSON)。這樣當工具執行失敗時,CUGA 的規劃器能優雅地處理錯誤(例如:地理編碼沒結果,跳過該部分繼續執行),而不是直接拋出異常導致整個 Agent 崩潰。
企業級治理:內建而非外掛
對於企業應用,最擔心的就是 Agent 做出不可控的行為(例如執行刪除指令)。CUGA 將治理(Governance)直接整合在運行時中,而非在外部包裹一層。它提供了多種策略(Policies):
Intent Guard(意圖護欄):在 Agent 選擇工具前,檢查請求是否包含禁止的操作。 Tool Approval(工具審核):在執行高風險工具前,暫停並要求人類確認。 Tool Guide(工具指南):引導 Agent 如何正確使用特定工具,而無需修改工具代碼。 Output Formatter(輸出格式化):強制最終結果符合特定格式。
這些策略支持語義匹配(Semantic Matching),意味著它能根據使用者的意圖而非僅僅是關鍵字來觸發攔截。
從單一 Agent 到多 Agent 協作
當任務過於複雜,單個 Agent 的上下文(Context)會被過多工具或證據填滿而失效。此時可以引入 CugaSupervisor(監督者模式)。監督者負責將子任務委派給不同的專家 Agent。每個專家 Agent 擁有獨立的工具集和上下文,這不僅降低了單個 Agent 的認知負荷,也增加了系統的魯棒性,因為單個專家的失敗不會導致整個流程崩潰。
此外,CUGA 支援 Agent Skills(代理技能),將特定知識存放在 Playbook 中,僅在需要時才載入上下文,避免提示詞過長導致的效能下降。
主權部署與安全性
CUGA 的最終目標是實現主權 AI(Sovereign AI)。由於其運行時是開源且模型不可知的,開發者在筆電上寫好的 Agent 可以直接部署到嚴格隔離的環境中。
在 IBM Sovereign Core 的部署模式下,Agent 運行在隔離的容器中,數據、控制平面與執行引擎全部在租戶邊界內。模型可以完全斷網(Air-gapped)運行,且所有推理步驟都會通過 OpenTelemetry 記錄到私有後端,確保沒有任何數據外洩。
總結
CUGA 的核心觀點是:Agent 應被視為一個簡單的配置過程,而非複雜的工程開發。透過將規劃、狀態管理與治理內建於 Harness 中,開發者可以專注於定義業務邏輯(工具與提示詞),同時確保應用從開發到生產環境的無縫遷移與安全可控。
來源:huggingface.co (IBM Research)
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。