這篇文章將分享 Shopify Staff Engineer Paulo Arruda 在構建多代理人系統（Multi-Agent Systems）過程中的實戰經驗。對於剛接觸 AI 應用的工程師來說，最容易陷入的誤區就是試圖寫一個「萬能的 Prompt」來解決所有問題，但實際在生產環境中，這種做法很快會遇到瓶頸。
從單一巨型 Prompt 到 Agent 微服務的演進
許多團隊在導入 AI 時，第一直覺是在聊天介面中寫一個極長的系統提示詞（System Prompt），把所有規則、背景知識和步驟全部塞進去。但在實務上，這會導致「上下文膨脹」（Context Bloat），讓 LLM 容易迷失在大量不相關的 Token 中，導致執行結果品質下降。
Paulo 發現，將複雜任務拆解為多個「精簡且專注」的代理人（Lean, Narrow-focused Agents）效果遠好於單一通用代理人。例如在 Shopify 的主題審核流程中，原本使用單一巨型 Prompt 處理所有合規檢查，過程仍需 22 小時；將其拆解為多個專門負責不同審核項目的 Agent 後，處理時間大幅縮短至 7 到 20 分鐘。
這就像是軟體工程從單體架構（Monolith）轉向微服務（Microservices）一樣，每個 Agent 變成一個功能單一的微服務，只負責一件事情並將其做到極致。
代理人搜索與 AST 的實作嘗試
在處理大規模代碼庫（Codebase）時，傳統的索引（Indexing）或向量搜索（Vector Search）往往會遺失語義上的關聯，尤其是像 Ruby 這種具有大量隱含行為的語言。
Paulo 曾嘗試建立文件依賴圖（Dependency Graph），但發現維護成本極高，無法跟上每天數百個 PR 的更新速度。隨後他發現「代理人搜索」（Agentic Search）更有效：讓 AI 像工程師一樣，透過 Grep、Read 等工具在代碼中主動探索。
他甚至嘗試讓 AI 導航 AST（Abstract Syntax Tree，抽象語法樹），讓 AI 能直接理解代碼的結構而非僅僅是文本。雖然單個 AI 可能無法完全掌握複雜的庫，但透過「多代理人協作」——例如讓一個專精於某個庫的 Agent 指導主 Agent ——可以大幅提升解決問題的成功率。
避免 AI SWAT 隊：賦能而非集中化
在公司內部推廣 AI 時，容易出現一種反模式（Anti-pattern）：將所有 AI 需求集中在少數幾個 AI 專家身上，形成所謂的 AI SWAT 隊。這會導致單點故障且無法擴展，因為 AI 專家並不了解財務或營運等特定業務領域。
正確的做法是提供標準化的工具鏈（如 SwarmSDK），讓每個團隊中對 AI 有熱情的成員（Linchpins）能自行定義和部署 Agent。
關於 SwarmSDK 的設計思考
為了解決不同團隊重複造輪子（例如各自開發 Pipeline 或工作流系統）的問題，Paulo 開發了 SwarmSDK。其核心設計理念包括：
單一進程運行：利用 Ruby 的 Fiber（輕量級執行緒）處理 I/O 密集型的 LLM 請求，避免將 Agent 拆分成網路微服務而引入重試、追蹤等複雜的網路問題。
定義與執行分離：支持透過 YAML 或 Ruby DSL 定義 Agent 的結構，讓開發者能快速配置代理人的層級關係（像組織圖一樣）。
工作流支持：除了 Agent 之間的自主委派，還引入了確定性的工作流（Deterministic Workflows），確保關鍵步驟按順序執行，而非完全依賴 AI 的隨機性。
未來展望：上下文工程與 llm-fuse
目前的 MCP（Model Context Protocol，一種標準化讓 AI 訪問外部工具的協議）雖然強大，但會引入大量不必要的工具描述，佔用 Token。
Paulo 提出一個假設性的解決方案 llm-fuse：將所有數據源（如 Postgres 資料庫）透過適配層（Adapter Layer）偽裝成文件系統。讓 LLM 像讀取文件一樣使用 Read、Grep、Search 等指令來訪問數據。這樣 AI 就不需要載入整個資料庫的 Schema，而是按需讀取，極大化 Token 的利用率。
此外，他還實作了記憶碎片整理（Defrag）機制，定期合併相似的記憶片段，優化讀取效率，確保 AI 在長期交互中能保持高效的召回率。
工程實踐總結
拒絕通用化：將 Agent 視為精簡的工具人，而非全能專家。
減少 Token 浪費：過多的 Persona（人格設定）或冗長的 Prompt 通常是資源浪費，專注於任務導向的指令。
賦能邊緣：建立統一的編排策略，讓最懂業務的人去定義 Agent。
來源：infoq.com (Presentation: What I Learned Building Multi-Agent Systems From Scratch)
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。