國家安全與人工智慧的交集
在現代國家安全領域中，人工智慧（AI）正迅速改變政府保護公民的方式。從攔截網路攻擊、強化關鍵基礎設施的安全性，到更早地偵測潛在威脅，AI 能夠在危機時刻為公務人員提供更清晰的全局視圖。然而，當 AI 提升了國家安全運作的速度與能力時，同樣負責監督這些運作的民主監督機構，也必須同步進化。
民主監督的核心在於確保公權力的行使能對人民負責。在國家安全這個高風險領域，許多決策必然涉及機密且影響深遠，因此監督機制至關重要。AI 的特性在於它能以極快的速度與規模處理資訊，但如果 AI 依據缺失或過時的背景資訊、錯誤配置的目標，或是偏差的假設來執行任務，其產生的錯誤將在短時間內擴散，傳統的人工審查方式將難以在錯誤擴大前將其偵測出來。
傳統監督機制的失效與挑戰
目前政府機構雖然擁有既有的法律權限與責任來監督國家安全活動，但這些傳統方法大多是勞動力密集型。當監督團隊仍使用「紙本時代」的審查方法，去對抗以機器速度運作的 AI 系統時，有效的監督幾乎變得不可能。
OpenAI 認為，系統的能力越強，就越需要強而有力的監督。這不僅適用於政府，OpenAI 在內部也實施了準備框架（Preparedness Framework），這是一套在模型部署前進行嚴格審查的機制，旨在理解模型能力並確定安全防護是否足夠。在模型部署後，則透過持續監控與事件回顧來強化防護。然而，OpenAI 明確表示，公司並不應該、也不會扮演政府的監督者角色，這項責任應由民選官員以及法定公共機構承擔。OpenAI 的角色是提供技術支持，協助監督機構在既有的職權範圍內更有效地執行任務。
支持民主監督的三大核心原則
為了確保 AI 在國家安全中的應用不脫離控制，OpenAI 提出了三項指導原則來支持監督機構。
首先，AI 應該強化而非取代人類與機構的判斷力。關於政府行為是否合法、適當，以及是否符合現行規則與政策的最終決定權，必須保留在獲得授權的機構與法定監督體系手中。
其次，政府使用 AI 的過程必須具備可追溯性（Traceability）與可讀性（Legibility）。這意味著審查人員必須能夠理解 AI 如何參與並影響某項決策的形成，且在審查過程中，必須能同時保護機密資訊、個人隱私以及安全敏感資料。
最後，AI 應被用來賦能民主監督機構。由於人工審查無法在規模上與 AI 競爭，監督機構本身也應該以負責且透明的方式採取 AI 工具，使監督的速度能與 AI 的採納速度保持同步。
具體執行路徑與資源投入
為了將上述原則轉化為行動，OpenAI 計劃在未來一年內推動一系列具體措施。首先，公司將與獲授權的官員合作，找出 AI 工具或技術支持能最有效提升監督效能的實際機會。
在資源投入方面，OpenAI 將提供 500 萬美元的資金，用於提供培訓、技術支持以及 OpenAI 的 API 額度，協助民主政府的監督機構以負責的方式採納並評估 AI 工具。此外，OpenAI 將與監督機構共同試行一套工具，讓審查人員能夠檢查 AI 輔助決策的完整紀錄，包括輸入的資料、輸出的結果以及工具的使用過程，藉此分析 AI 如何影響最終結果。
為了避免技術壟斷與依賴，這些工具將盡可能設計為具備互操作性（Interoperable）或模型不可知（Model-agnostic），意即不限於特定模型而能適用於不同系統。最重要的是，所有證據、輸出結果與發現的控制權將完全由參與機構掌握，而非 OpenAI，確保資訊僅限於獲授權的政府官員接觸。同時，OpenAI 也將邀請公民社會與技術專家參與，確保工具開發過程能納入多元視角。
權力的制衡與未來展望
AI 技術本身具有雙面性：它可能導致權力的過度集中，但也可能協助民主機構更有效地行使權力並對權力進行制衡。決定未來走向的並非技術本身，而是人類機構與公司現在所做的選擇。
這項倡議的成功與否，將取決於獲授權的審查人員是否能更有效地履行其職責，以及大眾是否有更充分的理由相信，政府的 AI 系統正被按照預定目的正確使用。隨著政府對 AI 的依賴程度增加，建立一個能與技術同步演進的監督體系，將是維護民主問責制的關鍵。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。