在開發 AI Agent(人工智慧代理人)時,許多工程師會發現,單純的對話式 AI 很快就會遇到瓶頸。最常見的問題在於,當 Agent 需要執行複雜的程式碼、讀取大型檔案或呼叫外部 API 時,HTTP 連線往往會因為超時而中斷,且 Agent 缺乏一個穩定且可持續的執行環境。為了讓 AI 從單純的聊天機器人轉化為能處理實務任務的生產力工具,Google 在 Gemini API 的 Managed Agents 功能中引入了幾項關鍵的工程化更新。
Managed Agents 的核心概念是提供一個隔離的雲端沙箱(Cloud Sandbox)。這意味著當你呼叫 API 時,Gemini 不僅僅是在生成文字,它還能在這個獨立的環境中執行程式碼、安裝套件、管理檔案以及獲取網頁資訊,而開發者不需要自己去搭建和維護這些複雜的執行環境。
解決長任務超時的非同步執行機制
在傳統的同步請求中,客戶端必須保持 HTTP 連線直到伺服器回傳結果。但對於 AI Agent 來說,有些任務(例如分析大量數據或執行複雜腳本)可能需要數分鐘甚至更久,長時間維持連線極其不穩定。
為了克服這個問題,Gemini API 引入了背景執行(Background Execution)模式。開發者只需在請求中設定 background 為 true,伺服器就不會讓客戶端死等結果,而是立即回傳一個唯一的 ID。客戶端可以使用這個 ID 隨時輪詢狀態、串流追蹤進度,或在稍後重新連線。這將 AI Agent 的運作模式從同步對話轉變為非同步的工作者(Asynchronous Worker),讓應用程式在 Agent 執行任務時不會被阻塞。
透過 MCP 協定簡化外部工具整合
讓 Agent 存取私有資料庫或內部 API 通常需要撰寫大量的代理中間件(Proxy Middleware),這增加了開發成本與維護難度。這次更新整合了 Model Context Protocol(MCP,模型上下文協定)。
MCP 是一種開放標準,旨在讓 AI 模型能以統一的方式與外部數據源和工具溝通。透過遠端 MCP 伺服器(Remote MCP Server)整合,開發者可以直接將 Agent 連接到定義好的 MCP 端點,而不需要為每個工具寫專屬的對接程式碼。Agent 可以同時使用內建的沙箱能力(如執行 Python 程式碼)與遠端的 MCP 工具,實現內外協作。
自定義函數與沙箱工具的混合調度
在實務開發中,有些邏輯必須在客戶端或特定的企業內部環境執行(例如觸發金流交易),而有些則適合在雲端沙箱執行(例如計算複雜數學公式)。
Gemini API 現在支援自定義函數呼叫(Custom Function Calling)與內建沙箱工具的並行使用。系統會透過步驟匹配(Step Matching)來決定執行路徑:如果是內建工具,伺服器會自動在沙箱中執行;如果是自定義函數,系統會將互動狀態轉移至 requires_action,通知客戶端執行本地的業務邏輯,完成後再將結果回傳給 Agent。
維持狀態的憑證更新機制
AI Agent 在執行長期任務時,最頭痛的往往是 API 金鑰或存取令牌(Access Token)過期導致任務中斷。以往若要更換憑證,可能需要重新啟動整個環境,導致先前安裝的套件或下載的檔案遺失。
新的憑證刷新(Credential Refresh)機制允許開發者在下一次互動時,攜帶原有的環境 ID(environment_id)並提供新的網路配置。這樣做可以在不破壞沙箱狀態(保留檔案系統、已安裝套件與 Git 倉庫)的前提下,即時更新網路存取權限,確保 Agent 的工作流能連續且穩定地進行。
總結
這次 Gemini API 的更新將 Managed Agents 從一個簡單的執行環境,提升到了生產級別的 Agent 基礎設施。透過非同步處理解決穩定性問題,利用 MCP 協定降低整合成本,並透過靈活的函數調度與憑證管理,讓 AI Agent 真正能夠在真實的開發與運作環境中扮演自動化工作者的角色。
來源:blog.google - Expanding Managed Agents in Gemini API: background tasks, remote MCP and more
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。