AI 程式碼助手（AI Coding Agents）如 Claude Code、Cursor 或 OpenAI Codex 正在改變開發者的工作方式，但與此同時，它們也給企業的安全維運人員帶來了新的挑戰。根據 Sophos 的分析，這些 AI 助手在執行日常任務時，經常會觸發原本設計用來捕捉駭客的終端安全規則。
簡單來說，AI 助手在幫工程師解決問題時，其行為模式與真實的攻擊者驚人地相似。
行為偵測與誤報的根源
現代的端點偵測與回應系統（EDR, Endpoint Detection and Response）不再只依賴病毒碼特徵，而是轉向行為偵測。這是因為目前的攻擊趨勢傾向於不使用惡意軟體，而是利用系統內建的合法工具來進行攻擊，這種手法被稱為 Living off the Land（利用環境生存，簡稱 LotL）。
當 AI 助手為了完成任務而自動化操作系統時，它會執行許多在安全規則中被定義為高風險的動作：
第一是憑證存取。許多 AI 助手會嘗試解密瀏覽器儲存的密碼或列出 Windows 憑證管理員中的內容。例如，Claude Code 使用的某些功能會呼叫 Windows 的 DPAPI（資料保護 API，用於加密與解密使用者資料的系統介面）來獲取瀏覽器資訊。在 EDR 眼中，這就是典型的憑證竊取行為。
第二是執行與下載。當 AI 助手嘗試安裝必要的套件時，如果第一種方法被阻擋，它會像真人駭客一樣嘗試替代方案。例如，先嘗試用 certutil（Windows 內建的憑證工具）下載檔案，失敗後立即改用 bitsadmin（後台智慧傳輸服務）。這種在被攔截後自動切換路徑的行為，正是區分靜態腳本與活體攻擊者的關鍵特徵。
第三是持久化嘗試。部分 AI 助手可能會使用 PowerShell 將腳本寫入 Windows 的啟動資料夾（Startup folder），目的是讓某些設定在開機時自動執行。但在安全防禦視角中，非授權安裝程式寫入啟動項是極其危險的持久化攻擊跡象。
AI Agent 帶來的安全雙面性
我們必須意識到，AI 助手在 runtime（執行時期）的行為具有雙面性。
一方面，良性的 AI 助手在幫開發者工作時會產生大量雜訊，導致安全團隊面臨警報疲勞，可能因此忽略真正的攻擊。
另一方面，AI 助手也可能被武器化。攻擊者可以利用 AI 來開發更強大的惡意軟體，或者透過投毒輸入（Poisoned Inputs）欺騙 AI 助手在受信任的使用者 session 中執行惡意代碼。由於 AI 助手運行在開發者的權限下，這種攻擊往往能繞過傳統的 EDR 偵測。
對工程師與安全維運者的實務建議
面對 AI 助手觸發的警報，不能簡單地將其全部設為白名單，因為這會創造巨大的安全漏洞。建議採取分級處理策略：
針對執行雜訊進行範圍縮小。對於 AI 助手頻繁觸發的下載或 PowerShell 格式異常等警報，可以透過定義父行程（例如 claude.exe 或 cursor.exe）、限定工作目錄或檢查下載目標的信譽來過濾掉良性雜訊。
堅守憑證存取紅線。無論是誰執行的，解密瀏覽器憑證或列舉憑證管理員永遠不應該是安全行為。AI 助手不應該因為運行在受信任使用者下，就繼承對敏感憑證儲存區的無限制存取權。
管理高風險模式。例如 Claude Code 提供了一個 --dangerously-skip-permissions 參數，允許跳過權限確認。在企業環境中，應透過管理設定禁用此模式，防止 AI 在缺乏監督的情況下執行危險操作。
總結來說，AI 助手正在模糊良性操作與惡意攻擊之間的界線。未來的安全防禦重點將不再是單純看執行了什麼動作，而是在於誰在什麼脈絡下、為了什麼目的執行該動作。
來源：thehackernews.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。