在生成式 AI 的應用演進中，AI Agent（人工智慧代理人）已從單純的對話機器人，轉向能夠執行複雜工作流的自動化實體。為了支持這些代理人的運行，Amazon Web Services (AWS) 提供了 Bedrock AgentCore 框架。最初，AgentCore 採用基於 microVM（微型虛擬機器）的伺服器無伺服器（Serverless）架構，這種模式非常適合短時間、爆發性的請求回應任務，因為它啟動速度快且能實現精細的按秒計費。然而，隨著企業級應用對 AI 代理人的需求增加，開發者發現微型虛擬機器存在顯著的限制，最主要的是其單次會話（Session）的運行上限僅為 8 小時，且在處理需要大量記憶體或 GPU 加速的運算任務時顯得力不從心。
為了克服這些瓶頸，AWS 近期推出了 Runtime Instances（運行時實例）。這是一種全新的運算選項，允許將代理人部署在客戶帳戶中受管理的 Amazon EC2（彈性運算雲端伺服器）上。Runtime Instances 並非要取代原有的 microVM，而是作為一種互補方案，旨在解決長時程運算、高資源需求以及複雜多代理人協作的痛點。
核心技術與運作方式
Runtime Instances 的核心在於將運算基礎從短暫的微型虛擬機器轉移到持久化的 EC2 實例。這帶來了幾個關鍵的技術突破。首先是會話壽命的大幅延長，單個會話的運行時間從 8 小時提升至最高 14 天，這使得 AI 代理人能夠處理需要長時間迭代、監控或執行的大型專案。其次，它支持 GPU 加速實例以及自定義的容器鏡像（Container Image）與 Python 環境，讓開發者能部署更沉重的模型或複雜的依賴庫。
在多代理人協作方面，Runtime Instances 引入了共享文件系統的概念。在以往的架構中，多個代理人若要協作，必須透過頻繁的 API 調用來傳遞資訊，這會增加延遲並提高複雜度。現在，多個專門的代理人可以部署在同一個運行時環境中，並通過共享的會話目錄（Shared Session Directory）來共同操作代碼、測試文件、文檔或安全構件。這種共同存取工作目錄的模式，讓代理人之間的交接如同在同一台電腦上協作一般自然。
為了簡化基礎設施管理，AWS 引入了 Capacity Provider（容量提供者）這一原語。開發者不需要直接操作複雜的 Auto Scaling 群組、啟動模板或 AMI 鏡像流水線，而是透過 Capacity Provider 定義允許的實例家族、操作系統、網路與儲存配置。這相當於在代理人與底層 EC2 資源之間建立了一份契約，由 AgentCore 負責後端的配置、修補與擴展，開發者只需設定最小與最大實例數以及目標利用率即可。
實務應用與生態集成
對於開發者而言，遷移到 Runtime Instances 的門檻極低。由於它延用了原有的 AgentCore API、身份識別控制與可觀測性模型，開發者可以使用簡單的 @app.entrypoint 裝飾器，搭配 Zip 文件或容器鏡像即可完成部署。這意味著目前主流的代理人框架，如 CrewAI、LangGraph、LlamaIndex 和 Strands，可以在不改變封裝模型的情況下直接集成。
在實際部署拓撲中，AWS 建議採用混合模式。例如，可以使用一個運行在 microVM 上的編排代理人（Orchestrator Agent）來處理高流量、短暫的用戶請求，當偵測到需要執行長時間運算或重資源任務時，再將工作分派給運行在 Runtime Instances 上的工作代理人（Worker Agents）。這種分層設計既兼顧了響應速度，又保證了處理能力。
影響、成本權衡與限制
引入 Runtime Instances 改變了 AI 代理人的成本結構。microVM 採取的是按 vCPU 小時與 GB 小時計費，且沒有額外的管理費，對於低 CPU 利用率或有大量閒置時間的代理人較為划算。而 Runtime Instances 則依照選擇的 EC2 實例標準費率計費，並額外收取一筆管理費。
根據 eCorpIT 的成本分析，兩者的損益平衡點約在 24% 的持續 CPU 利用率。如果代理人的運算負荷較高，且能利用 AWS 的 Savings Plans（節省計劃）或 Reserved Instances（預留實例）等承諾折扣，Runtime Instances 的經濟效益會更明顯。然而，管理費部分無法享受折扣，因此開發者需要透過將多個代理人共置於單一主機，以及在工作完成後及時停止會話，來控制成本。
總結來說，Runtime Instances 的推出標誌著 AI 代理人基礎設施從單純的函數式觸發，演進到支持狀態持久化與重運算能力的階段。雖然 14 天的會話限制依然存在，但對於絕大多數的企業級自動化流程已綽綽有餘。這使得 AI 代理人能夠真正處理如軟體開發生命週期管理、深度安全分析等需要長時間維護上下文（Context）的複雜任務。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。