背景
AI 在資安領域最常被詬病的問題之一,是模型很擅長「提出」漏洞假設,但這些假設往往未經證實。資安團隊收到的 AI 產出報告常常聽起來頭頭是道,實際驗證後卻是誤報,導致產品團隊浪費大量時間逐一排查。根據 Google 發表的論文與資安工程師 Michał Bentkowski 在 Google Bug Hunters 上發表的文章,Google 的 AI 安全代理 PageBreak 自 2026 年 1 月全面運作以來,已在自家 web 應用程式中發現超過 500 個 XSS(跨站腳本攻擊,一種讓攻擊者在網頁中注入並執行惡意 JavaScript 的漏洞)漏洞。這項成果最初由 InfoQ 於 2026 年 10 月底報導。
核心做法:確定性驗證
PageBreak 使用 Gemini 模型自主調查潛在漏洞,但真正的關鍵在於它的「確定性驗證」(deterministic validation)機制。模型可以隨意提出任何漏洞假設,但只有在驗證器(validator)成功針對實際運行中的應用程式重現攻擊之後,該發現才會被正式回報。例如,針對 XSS 必須實際執行 JavaScript、針對路徑遍歷(path traversal)必須實際寫入一個全域可讀的位置、針對遠端程式碼執行(RCE)則必須觸發對外 DNS 請求。這種「閉環驗證」讓 PageBreak 的誤報率接近零。
值得注意的是,這些驗證器是由資安工程師撰寫的普通程式碼,而非模型生成,並且運行在代理迴圈(agent loop)之外。Google 資安工程師 Lukas Weichselbaum 在 LinkedIn 上強調,這種設計確保產品團隊不會被未經證實的報告淹沒,注意力可以集中在高可信度的漏洞上。
非確定性發現的內部用途
確定性驗證雖然是「黃金標準」,但 Bentkowski 也坦承,目前驗證器的能力還不足以覆蓋所有漏洞類型或複雜情境。這帶來漏報(false negative)的風險——有些原本可能被非確定性驗證器抓到的漏洞會被漏掉。為此,Google 會在內部保留這些未驗證的候選發現,用它們來餵養未來更深層的掃描、找出驗證能力的缺口,並引導新驗證器的開發方向。這些候選發現不會送給產品團隊。
實際案例與環境優勢
Bentkowski 在「Google's PageBreak Project – Real-World Findings」一文中描述了三個由 PageBreak 找到的技術案例:一個 XSS 漏洞、一個由服務設定錯誤造成的快取污染(cache poisoning,攻擊者污染快取內容進而影響其他使用者)問題,以及一個路徑遍歷漏洞。
PageBreak 的成功也受益於 Google 獨特的工程環境:首先是 monorepo 提供的端到端程式碼可見性,讓代理能看到整個程式碼庫;其次是有安全訊號能將線上 HTTP 流量與原始碼關聯起來;第三是既有的掃描基礎設施,能對自家 web 應用程式提供已驗證身分的存取管道。這些條件在一般企業環境中未必齊備,也是外部團隊複製這套方法時的主要門檻。
影響與限制
從長期目標來看,Google 希望將產品團隊的介入降到最低,理想狀態是只需要由人類驗證 AI 自動生成的修補程式。為此,Google 正把 PageBreak 與其他代理式資安計畫(如 CodeMender,用於自動產生漏洞修補程式)整合,希望從發現到修復形成自動化閉環。
不過需要留意的是,針對這 500 多個漏洞的數字,目前並沒有獨立第三方的驗證,外界只能依賴 Google 的自我報告。此外,整套機制高度依賴驗證器的覆蓋範圍,對於驗證器無法重現的漏洞類型,PageBreak 目前仍力有未逮。即使如此,這套「模型負責假設、工程師寫的驗證器負責定案」的分工模式,為 AI 資安工具如何降低誤報提供了一個具體可行的參考架構。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。