AI 治理的爭論往往陷入一個極端陷阱，也就是在過度監管導致創新停滯，與完全不監管導致風險失控之間做選擇。然而對於工程實務者與政策制定者來說，真正的挑戰在於如何建立一套實務且基於證據的治理體系。這意味著我們不能用單一的標準來衡量所有的 AI 產品，而必須根據 AI 的性質將其分為前沿模型與廣泛應用兩種不同的治理維度。
前沿模型治理：建立獨立的驗證機制
所謂的前沿模型 Frontier AI，是指那些在訓練規模、能力與通用性上達到頂尖水準的大型模型。這類模型由於其不可預測的潛在風險，不能僅依賴開發公司的自我宣告。
針對這類高風險模型，實務上的建議是建立一個獨立的第三方組織。這個組織應由聯邦政府監督，並由產業共同支持，其核心職能在於制定安全標準並驗證自願性的獨立審計。這種模式類似於電力或航空等關鍵基礎設施的管理方式，透過外部審核來確保安全性，而不需要透過僵化的法律條文來限制技術研發，從而讓技術迭代能保持靈活性。
廣泛應用治理：利用既有法律框架
與前沿模型不同，許多 AI 應用屬於廣泛部署的 AI 應用 Widely deployed AI applications，例如將 AI 整合進搜尋引擎、客服系統或內容生成工具。這類應用面臨的挑戰通常不是模型本身的毀滅性風險，而是具體的社會與經濟影響。
對於這類應用，我們不需要為 AI 重新發明一套法律，而是應該將現有的法律框架進行適配與更新。例如，針對兒童安全、版權保護以及勞動力轉型等問題，直接運用現有的法律條文並根據 AI 的特性調整執行細節即可。這樣做的好處是能快速對接現有的法律體系，避免因建立新法而產生的行政成本與法律真空期。
為什麼這種分級治理至關重要
如果我們對所有 AI 應用都採取最嚴格的監管，將導致小型開發者無法承受合規成本，最終造成技術壟斷；反之，如果對前沿模型採取放任態度，則可能面臨不可控的安全威脅。
透過將前沿模型的安全驗證與一般應用的法律適配分開處理，可以在保護公眾安全的同時，確保技術進步不會被行政程序癱瘓。這對於工程師而言，意味著在開發底層模型時需要關注標準化的審計流程，而在開發應用層產品時，則需將重點放在符合既有的產業法規與倫理準則上。
來源：blog.google
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。