對於許多工程師來說，我們習慣關注模型參數、延遲或吞吐量，但當 AI 模型的能力達到 Frontier AI（前沿 AI，指具備極高能力、可能對社會產生深遠影響的頂尖模型）的等級時，技術問題就會轉化為治理問題。OpenAI 最近提出了一個有趣的觀點，討論美國如何透過一種稱為「反向聯邦主義」的機制，將分散的州政府法規轉化為全國性甚至全球性的 AI 安全標準。
什麼是反向聯邦主義？
在傳統的聯邦制度中，通常是中央政府制定大方針，地方政府執行。但反向聯邦主義（Reverse Federalism）則是相反的：由多個州（如加州、紐約州、伊利諾州）先行嘗試並通過方向一致的安全立法，形成一種「事實上的國家標準」（de facto national standard）。
這種做法對開發者的實際影響在於，如果每個州都有完全不同的法規（即所謂的 Patchwork of regulations，碎片化法規），小型新創公司將耗盡所有資源在合規審查上，而非投入在安全研究。因此，透過讓各州在核心安全要素上達成共識，可以為後續聯邦政府制定統一法律鋪路，減少開發者的合規成本。
前沿 AI 安全治理的三大核心要素
為了避免法規過度擴張（Policy Creep），OpenAI 建議無論是州政府還是聯邦政府，應將重心放在以下三個技術與管理維度：
第一是建立記錄完備的安全框架。這要求開發者對前沿模型進行風險評估，並將評估結果與過程公開，讓社會知道模型在哪些邊界可能失效。
第二是建立嚴重安全事件的報告機制。當模型在實務中出現非預期的危險行為時，必須有標準化的通報流程，以便快速採取補救措施。
第三是透過獨立且客觀的審計（Independent Audits）來實現治理。不能僅由開發公司自稱安全，而需要第三方專業機構對模型進行驗證。
聯邦政府的角色與國家安全
雖然州政府可以先行試水，但 OpenAI 強調，某些高階任務必須由聯邦政府主導，因為這涉及國家安全。
例如，針對網路攻擊（Cybersecurity）能力的評估，需要存取機密系統、擁有頂尖的技術資源以及跨部門的協調能力，這是單一州政府無法承擔的。目前美國政府正致力於建立一套統一的測試框架，確保最強大的 AI 工具能優先交付給政府、關鍵基礎設施防禦者以及信任的盟友，而不是讓惡意行為者搶先掌握。
在此脈絡下，CAISI（美國 AI 標準與創新中心）扮演了關鍵角色。其目標是將安全治理從「事後追責」轉向「事前預防」，在模型部署前就完成嚴格的評估。
從國家標準邁向全球框架
為什麼美國如此在意建立統一的國家標準？因為這關係到全球話語權。
如果美國能內部統一一套基於民主價值觀的 AI 安全標準，就能將此標準推向國際。OpenAI 提議建立一個由美國領導的國際論壇，負責制定公認的標準、提供公正的風險分析，並將技術開放給願意遵守規則的國家與公司。
總結來說，AI 的安全治理不是單純的法律條文，而是一場關於能力評估、風險披露與權限控制的技術工程。對於工程師而言，理解這一脈絡能讓我們明白，為什麼未來的模型開發將不可避免地包含更多獨立審計與標準化測試流程，因為這是將強大 AI 納入可控範圍的唯一路徑。
來源：openai.com (The US is advancing AI safety through state and federal action)
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。