當我們在討論 AI 如何提升開發效率時，資安領域的對手也正在利用同樣的技術來加速漏洞挖掘與攻擊。根據 Google 威脅情報小組（GTIG）的最新報告，資安業界觀察到了首例由 AI 系統輔助開發並在現實環境中大規模運用的零日漏洞（Zero-Day，指尚未被開發者發現且無補丁的漏洞）。
這次攻擊的核心是一個針對流行開源系統管理工具的 2FA 繞過漏洞。2FA 即雙因子驗證（Two-Factor Authentication），是一種在密碼之外增加第二層驗證（如手機簡訊或 App 驗證碼）的機制，旨在防止攻擊者僅憑盜得的帳號密碼就進入系統。
AI 如何協助攻擊者繞過 2FA
這次的漏洞並非簡單的程式碼錯誤，而是一種高層級的語義邏輯缺陷（Semantic Logic Flaw）。簡單來說，程式碼在設計時包含了一個錯誤的硬編碼信任假設（Hard-coded Trust Assumption），導致在特定條件下，系統會誤以為驗證已完成而直接允許進入。
這種邏輯漏洞對人類分析師來說較難在大量程式碼中快速定位，但大型語言模型（LLM）非常擅長分析邏輯結構與模式識別。Google 分析發現，用於執行此攻擊的 Python 腳本具有明顯的 AI 生成特徵：包含過多教科書式的教學註釋（Docstrings）、格式過於標準化，甚至出現了 AI 常見的幻覺現象（Hallucination），例如在腳本中自行編造了一個不存在的 CVSS 漏洞評分。
從自動化腳本到自主代理人的演進
除了單純的漏洞挖掘，AI 正在將惡意軟體從靜態工具轉向自主代理（Autonomous Agent）。以 PromptSpy 這種 Android 惡意軟體為例，它不再僅僅是執行預設指令，而是利用 Gemini AI 實時分析手機螢幕內容，並自主決定下一步行動。
這種進化帶來了極其危險的影響：它能監控使用者的操作流程，甚至捕捉生物辨識數據來模擬解鎖手勢。更棘手的是，它具備反刪除能力，能透過 AI 識別螢幕上解除安裝按鈕的座標，並在按鈕上方覆蓋一層透明層，讓使用者以為按鈕失效而無法刪除該軟體。
全球駭客組織的 AI 實踐模式
目前全球各地的威脅組織已將 AI 整合進其工作流中，模式大致可分為三類：
第一類是角色扮演與越獄。部分組織透過提示詞工程（Prompt Engineering），誘導 AI 扮演網路安全專家，藉此繞過 AI 的安全限制（Jailbreaking），獲取針對特定韌體或協定的漏洞研究建議。
第二類是數據餵養與上下文學習。駭客利用包含數千個真實漏洞案例的資料庫（如 wooyun-legacy）來對 AI 進行引導，讓模型在分析程式碼時能像資深專家一樣，優先關注那些容易被忽略的邏輯漏洞。
第三類是基礎設施的自動化。攻擊者建立自動化流水線，大量註冊並快速切換 LLM 帳號，以規避 API 的使用限制與帳號封禁，確保攻擊活動能大規模且持續地運行。
防禦者的挑戰與實務反思
對於工程師與資安人員來說，這意味著漏洞發現、武器化到執行攻擊的週期（Timeline）被極度壓縮。AI 讓攻擊者能以低成本、高速度地產生多樣化（Polymorphic）的惡意程式碼，使傳統基於特徵碼的防禦手段失效。
我們必須意識到，AI 不僅是攻擊者的倍增器，也可能成為供應鏈攻擊的新入口。如果組織內部的 AI 系統被入侵，攻擊者可以利用內部的模型來快速分析企業私有的敏感資料或進行內網偵察。
面對 AI 驅動的威脅，單純的修補漏洞已不足夠，建立深層防禦（Defense in Depth）與實時的行為監控將變得至關重要。
來源：thehackernews.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。