在現代軟體開發環境中，資安團隊面臨的最大挑戰往往不是缺乏監控工具，而是面對海量警報時的資訊過載。當安全監控系統觸發警報時，工程師必須在短時間內切換多個平台，比對日誌、查詢歷史事件並分析系統狀態，才能判定該警報是真正的威脅還是無害的誤報。這種重複性高且碎片化的調查過程，不僅耗費大量人力，更可能導致關鍵威脅在繁瑣的流程中被遺漏。
設計工具龍頭 Figma 的工程團隊針對此問題，開發了一套基於 AI Agent（人工智慧代理人）的資安自動化系統。不同於傳統的靜態腳本，AI Agent 能夠在給定目標下，自主調用工具、檢索知識庫並根據上下文做出判斷。Figma 的目標是將 AI 整合進資安運維流程中，讓 AI 承擔初步的調查與分析工作，而讓人類專家專注於最終的決策與修復。
資安調查的自動化核心
Figma 的 AI 代理系統建立在 Panther SIEM（安全資訊與事件管理系統）之上。SIEM 是一種將全公司各處的日誌集中化、並能即時分析潛在威脅的平台。為了讓 AI Agent 能像資安工程師一樣思考，Figma 為其配置了強大的工具集與數據存取權限，使其能跨平台檢查 AWS、Okta、GitHub、GCP 以及 osquery 的審計日誌。其中 osquery 是一項將作業系統狀態轉化為 SQL 數據庫的開源工具，讓 AI 能以查詢資料庫的方式快速獲取電腦的系統資訊。
在實際運作中，最核心的組件是警報分級代理人（Alert Triage Agent），該代理人採用了如 Claude Opus 等高效能大語言模型。當警報觸發時，代理人會接收完整的 Slack 討論紀錄作為上下文，並利用 AWS Bedrock Knowledge Bases 與 Amazon Kendra 等知識庫工具，在 Snowflake 數據倉庫中搜索歷史警報紀錄。透過這種方式，AI 能迅速判斷目前事件是否與過去曾發生過的漏洞相關，並直接提供調查結論，甚至能自動開啟 GitHub 的 Pull Request（PR，合併請求）來準備程式碼修復方案。
記憶機制與精準度的提升
Figma 的工程團隊發現，AI Agent 能否真正實用，關鍵在於記憶機制的設計。他們將記憶分為三種類型：過去的警報紀錄、行為指導方針以及學習到的數據庫結構。將這三者分開管理，能避免模型在處理複雜任務時產生混亂，並讓 AI 在長時間的運作中持續進化，學習如何更精確地進行調查。
除了警報分級，Figma 還將 AI Agent 應用於漏洞挖掘與程式碼審查。根據其技術分享，這些代理人成功發現了超過 100 個先前未知的漏洞，其中甚至包含兩個傳統自動化掃描工具完全遺漏的嚴重缺陷。透過引入二次審查步驟，系統對已知漏洞的檢測率提升了約 30%，而自動化指導的加入則讓部分編碼錯誤減少了 50%。在部署僅一個月內，其程式碼審查代理人的精準度便達到了 80%。
實務影響與安全限制
這套 AI 體系的導入帶來了顯著的效能提升。對於複雜警報的處理時間縮短了約 70%，且由於 AI 能有效降低部分低風險警報的嚴重等級，導致工程師被隨機喚醒（on-call pages）的次數減少了 20%。
然而，將 AI 引入資安核心流程必然伴隨風險。為了防止 AI 產生幻覺或被誤導，Figma 實施了嚴格的控制措施：所有由 AI 創建的 PR 預設均為草稿狀態，必須經過人類審核才能合併；同時在提示詞層級設定限制，防止 AI 將敏感數據洩漏至公開的 Slack 頻道中。
Figma 的經驗提醒開發者，在建構 AI 資安系統時，應優先提升精準度（Precision）而非召回率（Recall）。雖然增加召回率能讓 AI 發現更多潛在問題，但若精準度不足，將會產生大量誤報，反而增加人類工程師的負擔。
面對 AI 代理人的權限擴張，業界仍存在爭議。例如雲端安全公司 Wiz 曾指出 AI 編碼助手可能被惡意倉庫欺騙，導致用戶在不知情下批准危險代碼。Figma 坦言 AI 並非完美，但人類同樣會犯錯。因此，目前的最佳實踐並非在自動化與人力之間二選一，而是在 AI 的高效能與人類的監督權限之間，尋找一個動態平衡的信任邊界。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。