在開發 AI Agent（人工智慧代理人）時，一個直覺的假設是：只要給予代理人越多過去的經驗，它的表現就會越好。然而，IBM Research 在其關於 ALTK-Evolve 的研究中提出了一個關鍵觀點：代理人的記憶並非一個簡單的開關，而是一種需要根據模型能力精準校準的劑量。如果記憶量過多，弱模型可能會被資訊淹沒；而強模型則能從海量經驗中挖掘出處理邊緣案例的關鍵。
背景與核心機制
傳統的模型微調需要更新權重且成本高昂，而 ALTK-Evolve 採取的是一種非侵入式的學習循環。這種機制將記憶定義為一組指南集（Guideline Set），而非單純的對話紀錄回放。其運作流程分為三個階段：首先，代理人在執行任務時產生操作軌跡；接著，系統從成功與失敗的軌跡中萃取出可重複使用的行為指南（例如：應避免的錯誤或特定情境的處理策略）；最後，在推理階段將這些指南注入到上下文視窗中。
這種方法的優勢在於不需要更新模型權重，也不需要人工標記，使學習過程變得廉價且具有可移植性。研究團隊在 AppWorld 基準測試上對八款不同規模的模型進行了驗證，涵蓋了從 30B 的密集模型到頂尖的專有模型，旨在探討不同能力的模型在接收不同量級的記憶時，其任務完成率（TGC, Task Goal Completion）與場景完成率（SGC, Scenario Goal Completion）的變化。
記憶劑量的三種模型模式
研究發現，模型對記憶的反應可以歸納為三種截然不同的模式，這決定了應該採取何種記憶交付策略。
第一類是具有成長空間的強模型。這類模型（如 DeepSeek-V3.2 或 Claude Opus 4.6）擁有強大的資訊吸收能力，能夠處理完整的指南集。即使是極少數的邊緣案例經驗，也能幫助它們提升表現。例如 DeepSeek-V3.2 在獲取完整指南集後，任務完成率提升了 9.5 個百分點。
第二類是弱模型或中小型模型。這類模型（如 gpt-oss-120b）如果接收完整的指南集，反而會被過多的資訊干擾，導致表現下降且增加 token 成本。對它們而言，最有效的策略是精簡檢索（Curated Retrieval）：僅提供一個高置信度的核心指南集，並根據當前任務檢索少數相關指南。在這種配置下，gpt-oss-120b 的任務完成率大幅提升了 16.1 個百分點，而 token 增加量僅為 5%。
第三類是飽和模型。部分模型（如 GLM-5）在加入記憶後幾乎沒有明顯的增益。這可能是因為模型在該任務上已接近性能天花板，或者現有的指南集未能解決其殘餘的失效模式。
實務意義與成本限制
在實際部署中，記憶的注入會直接導致輸入 token 數量的增加，進而提高成本。研究指出，對於弱模型，精簡檢索不僅能提高準確率，更是最經濟的選擇。而對於強模型，雖然完整指南集會增加 token 負擔，但可以透過 Prompt Caching（提示詞快取）技術來緩解。由於指南集在多次對話步驟中是靜態且重複的，將其設為快取前綴可以大幅降低生產環境中的實際成本。
此外，研究強調 SGC（場景完成率）的提升通常比 TGC（任務完成率）更顯著。這意味著記憶機制對於提升代理人的可靠性（Reliability）至關重要，能確保代理人在面對同一任務的不同變體時，都能穩定地達成目標。
限制與未來方向
目前的記憶檢索主要依賴餘弦相似度（Cosine Similarity），但研究發現這並不總能精準預測哪些指南對特定任務真正有效。因此，未來方向將在於開發一個基於結果信號（Outcome Signal）的學習選擇器，以更智能地篩選記憶。
同時，對於能力極低、無法透過自我萃取產生有效信號的模型，研究團隊正探索由強模型導師提供記憶（Teacher-distilled memory）的可能性。此外，上下文視窗（Context Window）的大小是否影響模型對完整指南集的吸收能力，仍是後續需要獨立實驗驗證的變數。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。