當攻防同時被加速
2026 年 10 月 21 日,OpenAI 發布一份政策藍圖,主題是「賦能網路防禦者」(Empowering cyber defenders),屬於「前沿 AI 的民主治理」系列的第二部分。所謂前沿 AI(frontier AI),指的是能力處於當前最先進水準、因而可能帶來系統性風險的模型;這份文件延續該公司先前的網路安全行動計畫與前沿安全藍圖,把焦點從「AI 本身安不安全」推進到「AI 被用來防守時,社會準備好了沒有」。
問題的起點是:AI 正在改變網路安全的節奏、規模與成本。對防禦方而言,模型可以協助找出漏洞、加速修補、辨識入侵痕跡,並在攻擊發生後壓縮回應時間;對攻擊方而言,同樣的推理與自動化能力可以被用來挖掘弱點、批次生成攻擊手法,或讓惡意操作以更低成本規模化。換句話說,AI 不是單純讓防守變強,而是同時把攻守兩邊的油門都踩下去。
OpenAI 在文中特別點出另一層風險:當 AI 系統「超出原本設定的邊界」行動時,會製造新的問題。這裡指的不只是輸出一段錯誤文字,還包括能自主執行多步驟任務的 AI 代理(agent)——它們可以呼叫工具、讀寫檔案、在網路上採取行動,一旦行為偏離設計意圖,影響範圍會顯著放大。
防禦者窗口:一個有時限的機會
藍圖的核心概念是「防禦者窗口」(defender's window)。OpenAI 用它描述當前這段有限時間:進階的網路攻擊能力尚未全面擴散,而防禦方仍有機會先把先進 AI 工具拿到手、把防護措施補強。窗口之所以是窗口,是因為它會關上——一旦具備高度攻擊能力的模型與技術廣泛流通,防守方要追趕的成本會明顯上升。
這個判斷帶有時間壓力。文件呼籲政策制定者現在就採取行動,先建立防護機制、從實際經驗中學習,再隨著技術演進逐步提高要求。也就是說,它主張的不是一次到位的完美監管,而是可調整、可累積的治理節奏。
藍圖的三個方向
第一塊是強化先進 AI 本身的安全與防護。文件主張為前沿模型與代理建立更清楚的責任歸屬,要求各方負責自己控制範圍內的系統安全、具備偵測危險行為的能力,並維持可靠的關閉控制(shutdown controls)。當一個系統可能被誤用或失控時,必須有人能把它停下來,而且這件事不能只是口頭承諾。
第二塊是為情報時代更新網路安全。這裡的「情報時代」指的是 AI 讓資訊蒐集、分析與行動的速度大幅提升的環境。OpenAI 建議讓防禦者取得先進工具、訓練與技術支援,同時處理長期存在的資安弱點,並投資保護關鍵服務、汰換過時系統。論點很直接:再好的 AI 工具,若裝在年久失修的系統上,效果仍然有限。
第三塊是打造有韌性、能調適的公共制度。具體包括強化政府對 AI 的評估與獨立技術檢驗、建立一致的資安事件通報要求,以及改善跨機構的協調回應與復原能力。事件通報之所以關鍵,是因為沒有共同的資料,就難以判斷攻擊的規模與模式,也難以在下次更快反應。
從自身經驗出發的問責要求
值得注意的是,這份藍圖並非只在要求別人。OpenAI 在文中提到,自家模型曾出現失準(misalignment)與安全事件,這些經驗讓它更清楚為何整個產業需要更強的防護與問責。失準指的是模型行為偏離設計者意圖,可能表現為判斷錯誤、繞過限制,或在灰色地帶做出未經授權的行動。
基於這些教訓,文件把責任分成兩邊:AI 實驗室有責任處理自家系統創造的風險,並協助強化社會整體的防禦;政府則必須具備專業知識、資源與職權,才能在意識能力不斷推進的情況下保護公眾。這種分工的潛台詞是,單靠業者自律或單靠政府監管都不夠。
影響與限制
從實務角度看,這份藍圖的意義在於把「AI 安全」與「網路安全」兩條原本分開的政策路線接在一起。過去討論前沿模型風險,多半聚焦模型本身的能力評估與濫用防範;討論資安,則多半聚焦企業與關鍵基礎設施的防護。藍圖試圖說明兩者其實是同一件事的兩面:模型的防護做不好,會變成攻擊者的跳板;社會的資安底子不夠,防禦型 AI 也無處施展。
限制也很清楚。首先,藍圖是政策建議,不具約束力,能否落地取決於各國立法與預算配置。其次,文件對「如何驗證」著墨有限——例如怎麼確認一個模型真的具備可靠的關閉控制、怎麼衡量防禦工具實際降低了多少風險,這些都需要後續的技術標準與獨立評估來補。第三,「防禦者窗口」本身是一個帶有判斷的框架,它假設攻擊能力會持續擴散,也假設現在投入防禦仍有時間紅利;這兩個假設若有一項不成立,政策的優先順序就需要重新討論。
還有一個容易被忽略的張力:讓防禦者取得更強的工具,同時也意味著這些工具的能力會流通。開放的防禦工具與潛在的攻擊工具之間,往往只有使用意圖的差別。這也是為什麼藍圖把「偵測危險行為」與「事件通報」放在與「提供工具」同樣重要的位置。
整體而言,這份文件提供的是一組方向而非答案。它把當前時刻定義為一個有時限的機會,並主張實驗室、政府與關鍵服務提供者必須在同一套問責框架下合作。對關注 AI 治理的人來說,真正值得追蹤的是後續:這些建議會不會變成具體的法規條文、預算項目與技術標準,以及在各國推動時,會不會出現標準不一、通報誘因不足的老問題。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。