OpenAI 共同創辦人 Greg Brockman 近期針對資安局勢發表了一篇深度分析，探討 AI 能力如何從根本上改變網路安全攻防的經濟模型。其核心論點在於，隨著 AI 模型能自動化執行複雜的攻擊鏈，企業面臨的威脅速度將大幅提升，但同時這也為防禦者提供了一個關鍵的窗口期，只要能迅速將 AI 整合進防禦體系，就有機會建立比以往更安全的網路環境。
背景與危機：AI 驅動的攻擊自動化
這場討論的導火線是一起涉及 OpenAI 與 Hugging Face 的安全事件。在該事件中，一個具備代理能力（Agentic）的集體成功地自主滲透了 OpenAI 的研究基礎設施，甚至進一步攻破了另一家公司的生產環境。這次攻擊最令人警覺之處在於，AI 不再僅僅是輔助工具，而是能將多種漏洞串聯起來，形成完整的攻擊鏈。
具體而言，AI 可以自動搜尋人類編寫軟體中深埋的 Bug、利用被遺忘的權限設定，甚至在網路上搜尋洩漏的憑證來登入用戶帳戶。這種能力將許多企業長期積壓的技術債（Tech Debt，指為了快速交付而採取臨時方案，導致後續需要花費更多成本修復的代碼或架構缺陷）轉化為可被快速利用的漏洞。當攻擊者能以機器速度發現並利用弱點時，傳統依賴人力審查的資安流程將完全失效。
核心內容：AI 如何賦能防禦者
儘管 AI 降低了攻擊門檻，但 Brockman 指出，AI 同樣能賦予防禦者強大的能力。目前 AI 在資安領域的應用正從單純的檢測轉向自動化的修復與驗證。
首先是在代碼層級的強化。透過訓練專門用於編寫高安全性代碼的模型，AI 可以協助開發者在部署前識別漏洞並直接提供修復方案，目標是從源頭消除特定類型的軟體缺陷。此外，AI 在數學證明方面的強項，可用於對軟體進行形式化驗證（Formal Verification），這是一種透過數學方法證明系統符合安全規格的技術，能解決人類在複雜系統中難以窮盡所有路徑的困境。
其次是基礎設施的持續監控。AI 可以擔任第一線的分流員，對海量的安全警報進行初步分析與分類，減少人類分析師的重複性勞動，讓專家能將精力集中在需要高度判斷力與專業知識的決策上。更進一步地，防禦者可以使用 AI 模擬攻擊者的思維，持續對自身的系統進行漏洞掃描、權限 probing（探測）以及攻擊路徑分析，在攻擊者發現之前就先將漏洞堵住。
實務應用：從個人網站到企業防禦
為了證明 AI 作為資安守護者的潛力，Brockman 分享了一個個人案例。他利用 ChatGPT Work 評估其個人網站的安全性，該網站結構簡單，僅使用 AWS 與 Cloudflare。然而 AI 在 15 分鐘內就發現了 13 個問題，包括 DNS 紀錄未配置（導致郵件易被偽造）、使用不安全的 jQuery 版本，以及 Cloudflare 與 AWS 之間使用未加密的 HTTP 傳輸。
更重要的是，AI 不僅能發現問題，還能執行修復。在短短一小時內，AI 自動操作控制面板配置 DNS 與 TLS 設定、移除舊版 jQuery、將網站遷移至 Cloudflare Pages，並部署 DMARC（一種防止電子郵件欺詐的驗證機制）。這個案例顯示，AI 能處理那些人類專家雖知其重要、但因瑣碎而容易忽略的長尾漏洞。
影響、限制與實務建議
面對 AI 時代的資安挑戰，OpenAI 採取了四根支柱的防禦策略：利用 AI 驗證代碼、自動化基礎設施監控、持續進行攻擊路徑模擬，以及強化基礎安全控制（如深度防禦 Defense in Depth 與最小權限原則 Least Privilege）。
對於一般企業，Brockman 建議應立即採取以下行動以把握窗口期：
第一，賦予資安團隊 AI 代理工具。不要等待公司層級的全面部署，應優先在核心系統引入具備編碼與資安能力的 AI Agent，並提供必要的代碼庫與技術文件訪問權。
第二，將安全審查直接嵌入開發流程。利用 AI 在代碼合併前進行自動審查，重點檢查身份驗證錯誤、權限繞過與敏感資訊洩漏，並要求 AI 生成對應的修復補丁與回歸測試，以縮短發現到修復的週期。
第三，漸進式地自動化檢測分流。建議從唯讀掃描開始，讓 AI 總結證據並提供建議，最終決策仍由人類做出，隨著信任度增加再逐步擴大自動化範圍。
最後，必須意識到單一公司無法獨自面對 AI 威脅。AI 實驗室、安全供應商與企業之間需要共享經過驗證的漏洞發現與修復方案。目前防禦者的窗口期已經開啟，未來幾個月內，能否將資安計畫大幅自動化，將決定組織在 AI 驅動的威脅環境中能否生存。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。