當我們在討論生成式 AI 如何提升開發效率時，資安領域也面臨著同樣的變革。Google 的威脅情報小組（Google Threat Intelligence Group，簡稱 GTIG）近期發布的一份報告揭露了一個關鍵趨勢：攻擊者已經開始利用 AI 來開發漏洞利用程式。
最令人關注的是，Google 首次偵測到一名攻擊者使用了由 AI 協助開發的零日漏洞（Zero-day exploit）。所謂的零日漏洞，是指軟體中尚未被開發者發現、也沒有對應補丁的安全性漏洞，由於開發者在漏洞被利用前有零天時間準備，因此極其危險。在這次案例中，攻擊者企圖發動大規模攻擊，但 Google 透過主動偵測成功攔截，避免了潛在的災難。
這對工程師而言意味著，攻擊者的門檻正在降低，且漏洞挖掘的速度將會大幅加快。以往需要資深安全研究員花費數週分析的程式碼弱點，現在可能在 AI 的輔助下快速被定位並轉化為攻擊代碼。
面對 AI 賦能的威脅，防禦端同樣必須引入 AI 來對抗。Google 在 Gemini 等模型中採取了多層防禦機制，首先是分類器（Classifiers），這是一種用來識別輸入內容是否具有惡意意圖的過濾系統；其次是在模型內部建立保護機制（In-model protections），防止模型被誘導產生有害輸出；最後則是直接封鎖惡意帳號。
除了防止模型被濫用，Google 還開發了專門用於防禦的 AI 代理工具。例如 Big Sleep，這是一個能自動偵測軟體漏洞的 AI 系統，將原本需要人工審查的程式碼自動化掃描。而當漏洞被發現後，則利用 Gemini 的推理能力，透過 CodeMender 這種工具自動生成修復方案並修正程式碼。
這種從偵測到修復的自動化閉環，正是現代資安防禦的核心。對工程師來說，這提醒我們不能僅依賴傳統的靜態掃描或人工審查，必須理解 AI 在攻擊面（Attack Surface）帶來的變數，並學習如何利用 AI 工具來強化程式碼的韌性。
來源：blog.google
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。