當尖端 AI 模型能力越來越強,圍繞這些模型建立的安全防護也變得越來越關鍵。OpenAI 於 2026 年 11 月 20 日發布報告,說明他們如何偵測與打擊所謂的「對抗性蒸餾」(adversarial distillation) 攻擊。這種攻擊指的是惡意行為者在未經授權的情況下,利用尖端模型產生的輸出訓練另一個模型,讓新模型獲得相近的能力,卻沒有繼承原本模型的安全防護。最直接的風險出現在雙重用途領域:例如把模型的網路安全能力蒸餾出來後,用於發動原模型本來會拒絕協助的攻擊行為。這篇報告除了說明 OpenAI 自身的防禦手段,也希望把經驗分享給整個產業。
要理解這個問題,得先從「蒸餾」這項技術本身說起。蒸餾是機器學習中相當常見的做法:一個模型從另一個模型產生的資料中學習,可能是學習它的答案、推理過程,或是它對「哪個答案比較好、為什麼」的判斷。這個提供資料的模型被稱為 teacher(教師模型),學習的模型則稱為 student(學生模型)。蒸餾本身是中性技術,但未經授權的蒸餾除了智慧財產權問題,還帶來安全風險:學生模型可能學會了先進能力,卻不受教師模型的安全規範約束。在網路安全領域尤其明顯——同一個模型既能協助防禦者找出軟體漏洞,也可能被攻擊者用來利用這些漏洞;生物學領域同理,協助研究的模型也可能被誤用於開發有害病原體。
OpenAI 特別強調保護模型的「受保護推理」(protected reasoning),也就是模型在得出答案前內部產生的中間推理步驟,俗稱 chain-of-thought(思維鏈)。這些推理軌跡可能包含最終答案沒有呈現的資訊,因此對另一個模型來說是特別有價值的訓練資料。OpenAI 的內部研究具體驗證了這一點:他們從同一個預訓練學生模型出發,建立了一套以 Astra 級教師模型處理編碼與防禦性網安任務的軌跡為主的微調資料集,並比較「使用完整推理軌跡」與「只使用推理摘要」兩種訓練方式的差異。結果顯示,在監督式微調之後,使用完整推理軌跡訓練的學生模型普遍表現更好;經過一輪輕量級強化學習後,在最大的推論預算下,完整軌跡組在網安與編碼基準上仍然得分更高。值得注意的是,這些訓練資料來自使用政策允許的良性任務,但累積起來仍能轉移出具有攻擊面向的網安能力。OpenAI 也提到 Anthropic 的相關研究在 SWE-bench Verified 上得到類似結論,而這次的結果把這個優勢延伸到前線網路安全領域。
OpenAI 的防禦體系分為兩個互補層級:請求層級與活動層級。在請求層級,模型行為訓練會教模型辨識推理竊取意圖並拒絕透露受保護推理,同時保留對正常請求的回應;輸入分類器偵測竊取嘗試,輸出分類器則檢查助手訊息與工具呼叫參數中的推理外洩,工具呼叫的覆蓋尤其重要,因為模型可能在工具參數中暴露推理而未出現在答案中。API 層級的保護則限制受保護推理在不同對話與模型之間的重複使用——此前曾發現有攻擊能把加密推理從一個對話搬到另一個對話再要求模型揭露內容。針對新的 GPT-6.2 Astra 與 GPT-6.2 Sol,OpenAI 把受保護推理綁定到產生它的對話歷史:如果較早的訊息被改寫,API 會丟棄其後的推理內容,並阻止防護較弱的舊模型家族讀取新模型的受保護推理。在活動層級,OpenAI 會從請求與帳號層級的訊號中尋找協調式竊取的模式,一旦確認違規便對整個帳號網路執行處分,並與其他模型供應商分享入侵指標。這套機制的成效有數據支持:在自適應黑盒紅隊評估中,GPT-6.2 Astra 更新防護後,攻擊成功率從舊版 GPT-6 Astra 的 54.0%(竊取較早請求的推理)與 22.9%(竊取當前請求的推理)分別降到 0.2% 與 0.9%,每種攻擊類型的成功率都低於 1%。
這件事的影響層面不只限於技術與商業,還延伸到國家安全。外國行為者若從美國模型重製出先進能力,就能在沒有開發者防護的情況下部署使用。OpenAI 在二月已向美國國會簡報 DeepSeek 疑似蒸餾美國前線模型的活動,九月則通報打斷了一起竊取受保護推理的行動,並將其中核心部分歸因於與 Moonshot AI(Kimi 開發者)相關的個人。OpenAI 表態支持如 Chip Security Act、AI OVERWATCH Act 與 MATCH Act 等立法,認為更強的出口管制限制敵對者取得訓練前線模型所需的硬體,而蒸餾防禦則讓他們難以從既有模型取得相同能力,兩者共同維持美國在前線 AI 的領先地位。對其他模型開發者,OpenAI 的建議包括:保護完整互動過程中的私有推理、把紅隊測試與外部揭露發現的成功攻擊留存為迴歸測試、以自適應紅隊驗證更新後的防護、結合請求層級與活動層級的偵測與執法,並與部署夥伴及同業協調安全標準。當然,這些防禦仍在持續演進——蒸餾濫用的手法也在進化,OpenAI 今年已觀察到多起未經授權的蒸餾行動,每週執法規模從數千到數萬個帳號不等,且夏季以來明顯增加,顯示這是一場長期的攻防,而非一次性的修補。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。