隨著生成式 AI 的普及，分辨一張照片或一段影片是真實拍攝還是 AI 虛構，已成為資訊安全與信任的核心問題。Google 近期擴展了其內容透明度與驗證工具，旨在讓使用者能快速判別媒體內容的來源與編輯歷程。對於開發者而言，這不僅是產品功能，更涉及到如何透過技術標準來建立數位內容的信任鏈。
辨識 AI 內容的兩大技術路徑
目前業界主要透過兩種互補的技術路徑來解決內容偽造問題：數位水印（Watermarking）與內容憑證（Content Credentials）。
首先是 SynthID，這是 Google 開發的一種數位水印技術。它的核心在於將人類視覺或聽覺無法察覺的訊號，直接嵌入到 AI 生成的圖像、影片或音訊中。這與傳統的視覺水印（如在圖片角落加上 Logo）不同，SynthID 是將資訊整合在像素或波形之中，即便經過裁剪或輕微修改，該訊號依然能被檢測到。這解決了 AI 內容在傳播過程中容易失去標記的問題。
其次是 C2PA（Content Provenance and Authenticity），這是一個產業標準協議，旨在建立內容的來源追蹤機制。如果說 SynthID 是在成品中埋入密碼，C2PA 則像是給內容附上一本數位護照。它記錄了媒體從拍攝、編輯到發布的完整生命週期。例如，當 Pixel 手機的相機拍攝照片時，C2PA 會在元數據中記錄這是一張由真實鏡頭拍攝的原始影像。這對於驗證真實性至關重要，因為在 AI 時代，證明內容是真實的，與證明內容是 AI 生成的一樣重要。
從端到端的驗證生態系
為了讓這些技術真正落地，Google 將驗證能力整合進了多個消費級產品與企業級服務中。
在使用者端，Gemini、Google 搜尋、Chrome 瀏覽器以及 Pixel 手機正逐步導入驗證功能。使用者可以透過 Google Lens 或 Circle to Search 直接詢問這是否為 AI 生成，系統會調用後端驗證機制來判讀 SynthID 或 C2PA 標記。
在企業端，Google Cloud 推出了 AI Content Detection API。這對開發者非常重要，因為企業可以將此 API 整合進自己的後台流程中。例如，保險公司可以用來偵測理賠照片是否為 AI 偽造以防止詐欺，或是社群平台可以用來自動標記合成媒體，確保資訊透明。
跨平台的互操作性與挑戰
單一公司的技術無法解決全網的偽造問題，因此互操作性（Interoperability）是關鍵。數位內容在不同平台間傳播，如果標記在跳轉平台時失效，整個信任鏈就會斷裂。
因此，Google 採取了開放策略。一方面將 SynthID 的文本水印技術開源，並與 OpenAI、ElevenLabs 等 AI 公司合作，讓更多模型生成的內容帶有可識別標記。另一方面，透過 C2PA 標準與 Meta 等競爭對手協作，確保 Pixel 手機拍攝的真實照片在上傳至 Instagram 時，其真實性標記依然能被正確識別。
總結來說，對抗 AI 偽造內容的實務邏輯是：在生成端埋入不可見水印（SynthID），在拍攝端記錄來源憑證（C2PA），並在分發端提供標準化的 API 與界面供使用者驗證。這套機制將數位內容的信任基礎從單純的視覺判斷，轉移到了加密標記與標準協議的技術驗證之上。
來源：blog.google
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。