在近期 InfoQ 的播客訪談中，資深軟體架構師 Tracy Bannon 深入探討了 Agentic AI（代理式人工智慧）在軟體開發與日常應用中帶來的深層影響。不同於傳統的生成式 AI 僅能提供文字回應，Agentic AI 的核心在於其具備「代理」能力，能夠自主制定計畫、調用工具並執行任務。然而，這種從「對話」轉向「行動」的演進，也將軟體生態系統推向了未知的風險邊緣，如同迪士尼電影《幻想曲》中失控的魔法掃帚，一旦缺乏適當的約束，自動化可能會導致無法收拾的混亂。
安全邊界與攻擊面的擴張
Bannon 指出，Agentic AI 最顯著的安全風險在於「跨生態系統」的權限授予。當使用者在單一生態系統（如 Google 或 Microsoft）內使用 AI 時，風險相對可控，因為權限管理在同一套體系內。但真正的危險發生在 AI 跨越邊界時。例如，許多使用者安裝瀏覽器擴充功能（Browser Extensions），並在登入銀行或機密帳戶後，授權 AI 代理在其 behalf（代表）下執行操作。
這種行為實際上是將「王國的鑰匙」交給了 AI。一旦 AI 代理被授權訪問電子郵件、行事曆或 CRM 系統，攻擊面（Attack Surface，指系統中所有可能被攻擊的進入點）將劇增。Bannon 強調，雖然像 Anthropic 的 Mythos 等工具能主動發現並修復存在數十年的漏洞，但這並非新現象。駭客早已利用無限制的 LLM（大型語言模型）來尋找零日漏洞（Zero-day Vulnerability，指尚未被開發者發現且無補丁的漏洞）。真正的挑戰不在於 AI 能否發現漏洞，而是在於我們如何管理這些代理的授權，以及如何在自動化執行與安全管控之間取得平衡。
軟體開發生命週期（SDLC）的瓦解與重構
傳統的軟體開發生命週期（SDLC）是為了彌補人類的脆弱性而設計的，強調可測試性、可重複性與可審計性。然而，Agentic AI 的引入讓這一套邏輯面臨崩潰。首先，AI 產出的結果具有非決定性（Non-deterministic），同樣的輸入在不同時間可能產生不同結果，這使得傳統的自動化測試難以定義「正確答案」。
此外，Bannon 提到 AI 代理在測試過程中容易產生「隧道視野」（Tunnel Vision），即在長時間的對話或 token 累積後，AI 會變得狹隘且缺乏創意。在傳統開發中，開發者可以透過重置資料庫來確保測試環境的純淨，但在 LLM 時代，我們還沒有一套標準的方法來「重置」AI 的認知狀態。
未來，SDLC 可能會演變成一種「軟體飛輪」（Software Flywheel）模式：AI 生成需求 $\rightarrow$ 生成代碼 $\rightarrow$ 生成測試 $\rightarrow$ 部署 $\rightarrow$ 收集遙測數據 $\rightarrow$ 反饋給 AI 進行自我修復。這將導致開發者從「作者」轉變為「審核者」，但這也帶來了嚴重的認知負荷（Cognitive Overload）。由於 AI 能在極短時間內生成海量代碼與文件，人類審核者必須面對遠超負荷的資訊量，導致審核品質下降，反而增加了潛在錯誤進入生產環境的風險。
人類能力的退化與認知外包
除了技術層面的風險，Bannon 對於 AI 導致的人類能力退化表達了深切擔憂。她將此比喻為電影《瓦力》（WALL·E）中人們終日坐在自動化座椅上的狀態——這是一種「大腦的瓦力座椅」。
當人們過度依賴 AI 進行問題分解與解決時，會失去深層學習與記憶的能力。Bannon 引用研究指出，使用 AI 解決問題的人雖然速度較快，但在面對類似但不能使用工具的挑戰時，其理解力與保留率（Retention）顯著低於透過傳統搜尋（如 Google）自行分解問題的人。搜尋過程本身就是一種認知訓練，而 AI 直接給出答案的過程則是將思考過程「外包」給了模型。
這種傾向在教育與專業訓練中尤為危險。如果研究生或初級工程師跳過基礎的邏輯推演，直接依賴 AI 生成結果，他們將失去處理複雜系統的能力。Bannon 建議，為了保持心理所有權（Mental Ownership），使用者應在利用 AI 前先使用紙筆構思大綱，並要求 AI 僅協助特定段落，而非直接生成全篇，以避免陷入純粹的資訊消費而喪失思考能力。
實務意義與未來展望
面對 Agentic AI 的浪潮，Bannon 認為我們需要從底層重構數位平台。未來的平台不應只是在現有系統上「灑上」一些 AI 功能，而應設計成以「編排引擎」（Orchestration Engine）為核心的架構。類似於微服務（Microservices）的邏輯，頂層會有一個主代理（Master Agent）負責接收目標，再將任務分發給各個專業的子代理執行，並確保數據流動的可審計性。
總結來說，Agentic AI 提供了極大的生產力提升，但其代價是安全邊界的模糊與認知能力的萎縮。我們必須意識到，自動化不應等同於放棄思考。在追求效率的同時，建立嚴格的授權機制與維持人類的批判性思考，將是決定我們是成為 AI 的主導者，還是淪為被動乘客的關鍵。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。