在即時通訊軟體高度普及的今日，詐騙訊息已成為全球性的安全威脅。對於 WhatsApp 而言，其核心產品價值在於端到端加密（End-to-End Encryption），這意味著除了通訊雙方，包括 WhatsApp 官方在內的任何第三方都無法讀取訊息內容。然而，這種強大的隱私保護也帶來了一個技術挑戰：當伺服器無法看到訊息內容時，該如何有效偵測並警告使用者潛在的詐騙訊息？
為了在不破壞加密承諾的前提下提升安全性，WhatsApp 正測試一項名為 Scam Alert 的功能。這是一項基於裝置端機器學習（On-device Machine Learning）的選擇性功能，旨在偵測來自非聯絡人且符合詐騙模式的訊息，並在使用者端發出警告。
核心運作機制與偵測邏輯
Scam Alert 的運作核心在於將偵測邏輯從雲端移至使用者裝置。當使用者開啟此功能後，裝置會下載一個輕量化的機器學習模型。該模型是 Meta 根據先前使用者回報的詐騙對話模式所訓練而成，重點分析對話的結構與語言信號，而非僅僅依賴關鍵字。
當非聯絡人傳來訊息時，模型會在裝置本地端進行分類評估。如果系統判定該訊息具有高度詐騙風險，會向使用者顯示警告。值得注意的是，這個警告僅使用者可見，發送者不會知道其訊息被標記為詐騙。使用者在看到警告後，可以選擇封鎖、回報或繼續對話；若將該對話標記為信任，系統未來將不再對該對話發出警報。
隱私分析與機密運算架構
對 Meta 而言，最大的技術難題在於如何衡量模型的準確性。在傳統的分析模式中，開發者需要收集使用者對警告的反應（例如：使用者是否在收到警告後封鎖了對方）來優化模型，但如果將這些行為數據直接傳回伺服器，可能會洩露使用者的社交圖譜或行為模式。
為了解決這個問題，WhatsApp 採用了一套機密聯邦分析（Confidential Federated Analytics）架構，將訊息分類與效能衡量完全分離。裝置端會將警告事件與使用者操作本地化地彙整為計數數據，而非傳送原始對話。這些數據透過 Oblivious HTTP（OHTTP，一種能隱藏用戶 IP 位址的傳輸協議）傳送到機密虛擬機（Confidential Virtual Machines）中。
這種機密虛擬機屬於可信執行環境（Trusted Execution Environment, TEE），是一種硬體層級的隔離技術，確保數據在處理過程中即使是系統管理員也無法讀取。在數據匯出前，系統會應用差分隱私（Differential Privacy）技術，在統計數據中加入雜訊，確保最終產出的僅是群體層級的近似統計量，無法反推回單一使用者的行為。
模型分發的安全邊界
除了數據回傳，模型本身的安全性也至關重要。為了防止惡意第三方竄改模型或針對特定使用者推送特定版本的模型，WhatsApp 將模型分發視為一道安全邊界。
每一個生產或實驗版本的模型都會生成 SHA-256 哈希值（一種唯一的數位指紋），並將其發布到第三方且僅限附加（Append-only）的透明度帳本中。裝置在載入模型前，會先驗證帳本記錄、模型簽名以及新鮮度，確保下載的模型是官方發布且未被篡改的。此外，實驗組的分配是在本地端完成，伺服器無法決定哪個特定使用者應接收哪個模型變體，進一步降低了針對性攻擊的風險。
這套方案基於 Meta 在 2025 年 USENIX NSDI 會議上提出的 PAPAYA 聯邦分析系統。PAPAYA 的核心在於區分聯邦學習（Federated Learning）與聯邦分析（Federated Analytics），後者專注於在保護隱私的前提下獲取系統遙測數據。
實務意義與限制
Scam Alert 的設計體現了現代隱私工程的趨勢：將運算權限下放至邊緣端（Edge Computing），並利用硬體隔離與數學證明（如差分隱私）來取代對企業信任的依賴。這與 Google Messages 提供的即時垃圾郵件保護邏輯相似，但兩者在架構邊界與本地處理的深度上有所不同。
目前該功能仍處於有限 Beta 測試階段。Meta 採取了高度透明的策略，將機密虛擬機的二進制檔案與隱私相關的原始碼開放給獨立安全審查，並將其 Bug Bounty（漏洞獎金計畫）擴展至這套機密聯邦分析流水線。這顯示出 Meta 意識到，當安全機制變得越複雜，越需要透過外部審核來證明其隱私聲明的真實性。
儘管技術先進，但此方案仍有其限制。由於模型運行在裝置端，其大小與複雜度受限於手機的運算資源，可能無法達到雲端大型模型那樣的偵測精度。此外，由於採取差分隱私，開發者獲得的數據是近似值而非精確值，這在一定程度上增加了模型調優的難度。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。