在生成式人工智慧迅速普及的時代，青少年成為首批在 AI 環境中成長的一代。根據 OpenAI 的觀察，約有九成使用 ChatGPT 的青少年在每週內會將其用於學習、獲取資訊、技能培養或提升生產力。然而，AI 工具的強大功能與青少年的身心發展階段之間存在潛在衝突，如何在提供學習資源的同時，防止有害內容的影響並保護隱私，成為了科技公司與立法者共同面對的挑戰。
背景與立法脈絡
面對聯邦層級法律行動的缺失，美國加州政府正試圖透過立法來建立青少年 AI 安全的標準。OpenAI 正式表達對加州參議院第 1119 號法案（Senate Bill 1119，簡稱 SB 1119）的支持。這項法案的核心目標是在不剝奪青少年使用 AI 工具進行學習與創作權利的基礎上，建立具備實質意義的保護機制。OpenAI 的全球政策副總裁 Ann O’Leary 指出，SB 1119 的設計方向與 OpenAI 先前提出的青少年原則以及父母與兒童安全 AI 法案（Parents & Kids Safe AI Act）的倡議方向一致，旨在將安全保護從可選的設定轉變為系統的基準體驗。
SB 1119 的核心要求與運作機制
SB 1119 並非簡單地禁止青少年使用 AI，而是要求開發商建立一套量身定制的安全框架。該法案強調 AI 不同於傳統的社交媒體，因此其保護機制應著重於學習與探索的安全性。法案提出的關鍵要求包括：開發者必須具備精準判定使用者年齡的能力，並在產品開放給青少年之前，先識別並解決潛在的安全風險。此外，產品需通過獨立審計，以確保其保護措施確實有效。
在內容管控方面，法案要求嚴格防止青少年接觸自殘、性剝削內容或其他高風險互動。當系統偵測到嚴重的安全風險時，必須能迅速將使用者導向危機支援資源。針對隱私與商業利用，法案要求限制對青少年的定向廣告，並強化對個人資訊的保護。對於 13 至 17 歲的使用者，所有上述保護措施必須自動啟用，而非由使用者自行開啟。
實務落實：ChatGPT for Teens 的設計邏輯
為了對接這類法規要求，OpenAI 推出了專為 18 歲以下使用者設計的 ChatGPT for Teens。當系統預測使用者未滿 18 歲，或使用者自述年齡在 13 至 17 歲之間時，會自動進入此模式。這套系統在 Model Spec（模型規範，即定義 AI 模型行為準則的技術文件）中加入了針對未成年人的原則，明確禁止 AI 與青少年建立浪漫關係、鼓勵情感依賴，或聲稱自己具有人類意識或情感。
在功能設計上，ChatGPT for Teens 引入了測驗、學習視覺化與學習模式，旨在引導學生逐步解決問題而非直接給出答案，以培養批判性思考。值得關注的是，OpenAI 認為記憶功能（Memory feature）在安全中扮演重要角色。透過記錄先前的對話脈絡，AI 不僅能支持長期的學習計畫，更能識別出使用者在長時間互動中表現出的異常危險模式，從而提供更一致且及時的安全干預。此外，系統也為家長提供了控制工具，讓家長能管理設定並在高風險情況下收到通知。
影響、限制與未來展望
SB 1119 的實施將為 AI 產業設定一個重要的合規基準，迫使開發商將安全設計前置化。這意味著 AI 公司不能再將安全視為事後補救的插件，而必須將年齡適配性納入產品開發的生命週期。然而，技術的演進速度往往快於法律的修訂，因此 OpenAI 建議在法案執行過程中保持持續的研究與協作，以確保框架能隨著技術迭代而調整。
雖然自動化保護機制能降低風險，但如何在「嚴格管控」與「鼓勵探索」之間取得平衡仍是挑戰。過度的限制可能會削弱 AI 作為教育工具的潛力，而不足的監控則可能導致心理健康風險。因此，將 AI 定義為學習工具而非社交平台，並結合家長監控與獨立審計，是目前業界認為最可行且能兼顧成長與安全的折衷方案。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。