背景與問題
當 AI 模型越來越聰明,並開始在真實世界中執行更具影響力的行動時,單純「照字面執行指令」已經不足以應付實際需求。使用者的指示往往沒有涵蓋所有情境,模型需要在指令沒有明確說明的地方做出合理判斷,同時仍然忠於人類的意圖與監督。為了處理這個問題,OpenAI 在 2026 年 10 月 29 日發布了更新版的 Model Spec(模型規範),這是該公司對外公開的文件,用來說明他們希望自家模型如何行為。這次的更新不是小修小補,而是把整份規範重新組織,圍繞五項核心價值來撰寫。
五大核心價值
更新後的 Model Spec 以五項價值作為架構基礎。第一是「忠於人類意圖」(faithfulness to human intent),這是整體 approach 的根基,指的是模型要理解並協助人們追求對他們重要的事物,而不只是機械式地照字面執行指令。第二是「最小化傷害」(harm minimization),要求模型遵守堅定的安全界線,並考量自身行動可預見的後果。第三是「誠實與透明」(honesty and transparency),模型要對自己知道什麼、做了什麼、哪些地方不確定保持誠實,讓人們能夠理解並檢驗它的推理過程與工作成果。第四是「促進人類自主性」(human agency),也就是強化人們自己理解、選擇與行動的能力。第五是「關懷」(care),要求模型留意受影響者的處境、遵循相關的社會與專業規範,並產出人們可以信賴的工作成果。
OpenAI 特別強調,這五項價值是用來組織規範、引導模型在重要取捨之間做出判斷的框架,並不是要涵蓋模型應該尊重的全部人類價值。這些價值在實務上轉化為兩種形式的指引:在需要保護個人與社會的地方設定不可動搖的硬性界線,其餘部分則多以「預設行為」的形式呈現,使用者和開發者可以覆寫這些預設。
運作方式與設計理念
忠於人類意圖的具體意涵值得進一步說明。OpenAI 認為,人們真正重視的事物才是根本,而指令通常只是表達這些價值最清楚、最重要的訊號。這種思路借鑑了對齊研究中的 assistance-games 框架,也就是把人機互動視為模型協助人類達成目標的過程。舉例來說,當模型協助使用者比較不同工作機會時,可能會引用使用者過去提過的偏好,例如希望工作時間穩定,但同時要把這些假設明確攤開來,讓使用者容易修正。忠實也代表承認人的信念與價值會隨時間改變,模型應該幫助人們以自己認可的方式反思與成長,而不是暗中引導或取代他們的選擇。
在權責結構上,OpenAI 負責撰寫規範、劃定界線並訓練模型遵守;開發者在界線之內指揮應用程式;使用者則在這些限制下指揮模型工作。更新版也加入了新的章節處理脈絡問題,說明對話紀錄、記憶與其他情境線索應如何幫助模型理解人們的意圖與偏好,並更新了「指揮鏈」(chain of command)的說明,釐清當不同層級的指示衝突時該如何解決。
新增與移除的內容
這次重整也讓 OpenAI 找出原本規範不足之處。除了前述的意圖理解與脈絡章節,新版還加入了關於支持人類自主性、遵循相關社會規範的預設行為,並擴充了關於控制與溝通副作用(side effects)的既有指引。這些原則處理的是比較細微但重要的面向:考量工作對他人的影響、增強使用者的能力、產出可靠的成果,同時尊重使用者的目標與指示。
另一方面,OpenAI 移除了規範中大部分關於文字風格的詳細指引。他們的立場是風格應該順應人們的偏好,包括整體層面、語言與文化層面,以及個人層面,並以使用者回饋和情境作為判斷依據。不過規範保留了較強的預設,例如客觀地處理問題。使用者和開發者可以明確要求模型採取特定立場,但模型不應只因為猜測使用者想聽什麼就自行調整觀點。另一個象徵性的改變是,隨著模型用途與部署場景越來越廣,文件中對模型的稱呼從「助理」改為「GPT」。
影響與限制
從實務角度來看,這份更新代表了 AI 對齊(alignment,即使模型行為符合人類價值與意圖的研究領域)工作的一個方向轉變:與其用大量具體行為規則約束模型,不如讓模型理解規則背後的道理,在遇到新情況時做出正確判斷,也就是「為了對的理由做對的事」。OpenAI 表示,他們正在探索新的訓練方法,幫助模型學習這些核心價值,並在影響重大的決策和日常累積的小決策中展現更好的判斷力,相關成果會在未來公布。
不過也要注意限制。OpenAI 自己明言,Model Spec 描述的是他們努力達成的目標行為,目前的模型尚未完全做到。這份規範本身也在持續演進,公司會根據研究、實際部署經驗與外部回饋繼續修正,並公開邀請各界針對價值取捨、具體文字提出不同意見。換句話說,這更像一份仍在不斷調整中的行為準則藍圖,而不是已經完成的終點;五項價值之間難免存在張力,例如忠於使用者意圖與最小化傷害在某些情境下可能衝突,如何取捨仍有待實務檢驗與公眾討論。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。