OpenAI 近期針對其 GPT-5.5 模型啟動了一項特殊的生物漏洞賞金計畫。對於一般工程師來說，看到漏洞賞金（Bug Bounty）通常會想到的是記憶體溢位或 SQL 注入等傳統資安漏洞，但這次的目標完全不同，它聚焦在生物安全（Biosafety）與 AI 模型對抗性攻擊的交集。
首先我們需要理解什麼是生物安全風險。當大型語言模型具備極強的專業知識時，如果缺乏適當的限制，它可能會被惡意使用者利用來獲取危險資訊，例如如何合成致命病毒或製造生物武器。這類風險一旦發生將造成不可逆的現實世界傷害，因此在模型發布前，必須確保其內建的審查機制（Guardrails）能夠有效攔截這類請求。
這次計畫的核心挑戰在於尋找通用越獄方法。所謂越獄（Jailbreak），是指透過精心設計的提示詞（Prompt），誘導模型繞過其安全設定，使其輸出原本被禁止的內容。而通用越獄則是指一套能夠在不同場景下重複生效的攻擊模式，而不是針對單一問題的隨機嘗試。OpenAI 設定了五個特定的生物安全挑戰，要求參與者必須使用同一組提示詞，在不觸發審查系統的情況下，一次性成功獲取所有五個問題的答案。
這種測試方式在安全工程中被稱為紅隊演練（Red Teaming）。紅隊扮演的是攻擊者的角色，透過模擬真實世界的對抗行為，主動尋找系統的弱點。對於 AI 模型而言，紅隊演練能幫助開發者發現模型在邏輯推理或語境理解上的漏洞，進而強化模型的對齊（Alignment）效果，讓模型在保持有用性的同時，能堅定地拒絕危險請求。
在實務操作上，這次計畫採取了極其嚴格的准入制度。參與者必須經過審核，且必須是具備 AI 安全或生物安全背景的專業研究人員。這反映出生物安全測試的敏感性，因為測試過程本身就涉及危險知識的觸碰，必須在受控且受保密協議（NDA）約束的環境中進行，以防止測試過程中的發現被外流。
對於開發者而言，這個計畫傳遞了一個重要的信號：隨著模型能力的提升，安全防護不能僅依賴簡單的關鍵字過濾，而必須面對更複雜的對抗性攻擊。通用越獄的威脅在於，一旦某種攻擊模式被發現並傳播，所有基於該模型的應用都可能瞬間失效。因此，建立一個持續的、由外部專家參與的漏洞回報機制，是確保前沿 AI 模型在實務部署中維持安全的必要手段。
來源：openai.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。