在當前 AI 模型的部署過程中，開發者經常面臨一個兩難的抉擇：是要將數據上傳到雲端以利用強大的運算資源，但面臨隱私外洩的風險；還是將模型部署在使用者本地端以保護隱私，但卻面臨硬體效能不足以及模型權重被反編譯導致商業機密外流的問題。傳統的端到端加密雖然能保護傳輸過程，但數據在被伺服器處理前必須先解密，這意味著處理端在運算瞬間仍能看到明文數據。為了打破這個僵局，Google 推出了名為 HEIR 的開源編譯器與開發工具鏈，旨在讓同態加密推論成為一種可快速部署的能力。
核心技術：同態加密與 HEIR 的角色
同態加密（Homomorphic Encryption, HE）是一種特殊的加密技術，其核心價值在於允許運算過程直接在加密後的密文上進行，而不需要先將其解密。簡單來說，伺服器接收到加密數據後，可以在不得知數據實際內容的情況下進行數學運算，最後產出的結果依然是加密狀態，只有持有金鑰的使用者才能將結果解密還原。這種特性徹底改變了隱私與功能的權衡，讓服務提供者能在不接觸使用者私密資料的前提下提供智能服務。
然而，同態加密在實作上極其複雜，因為它要求將傳統的程式邏輯轉換為特定的數學運算形式。為了降低開發門檻，Google 開發了 HEIR（Homomorphic Encryption Intermediate Representation），這是一個基於中間表示法（Intermediate Representation, IR）的編譯工具鏈。HEIR 的作用就像是一個翻譯官，它提供了一個抽象層，能將原本針對明文數據設計的預訓練 AI 模型，轉換為能夠處理加密輸入的同態加密版本。開發者可以使用 Python 撰寫程式，並標註哪些數據類型需要加密，隨後透過 HEIR 將其編譯為適合同態執行（Homomorphic Execution）的格式。
實務應用場景與運作流程
透過 HEIR，Google 已經展示了多個具有高度隱私需求的應用案例。例如，在內容推薦系統中，系統可以在不接觸使用者個人偏好明文的情況下提供精準推薦；在金融領域，可用於偵測信用卡詐騙而無需暴露敏感的財務資訊；在網路安全方面，能識別網路入侵跡象而無需向服務提供商揭露封包內容；甚至在語音助理的熱詞識別（Hotword Recognition）中，也能在不揭露原始錄音內容的情況下完成辨識。
目前的技術流程尚未完全自動化，開發者通常需要經過幾個步驟來完成轉換。以 PyTorch 模型為例，開發者首先需使用 torch_mlir 將 PyTorch 模型導出為 MLIR（Multi-Level Intermediate Representation，一種用於機器學習編譯的通用中間表示），接著再利用 HEIR 將其編譯為全同態加密（Fully Homomorphic Encryption, FHE）可執行的形式。
效能挑戰與未來限制
儘管 HEIR 簡化了開發流程，但同態加密最核心的挑戰依然在於效能開銷（Overhead）。根據社群討論與技術分析，同態加密的運算速度遠慢於明文運算，部分推論任務的開銷可能高達 1,000 倍。具體而言，簡單的 64 位元相等判定可能需要 80 毫秒，加法與減法約 100 毫秒，而除法運算甚至可能耗時 8 秒。
不過，針對大型語言模型（LLM）的應用，前景可能相對樂觀。這是因為 LLM 的核心運算大量依賴於矩陣乘法與加法，而這正是同態加密較擅長的領域；相反地，同態加密最難處理的是條件分支（Branching）邏輯，而 LLM 的推論結構在很大程度上避開了複雜的分支判斷。此外，對於某些對即時性要求不高（例如從 1 毫秒延遲增加到 1 秒）的圖像分類或非同步分析任務，這種效能損耗在商業上仍是可接受的。
儘管 Google 在 HEIR 的儲存庫中提供了基準測試代碼，但目前尚未公布其在 LLM 上的具體加速數據。同時，部分開發者認為，對於極端追求隱私的使用者而言，將模型部署在自有硬體上仍是比依賴雲端同態加密更徹底的方案。然而，HEIR 的出現為那些必須在雲端處理敏感數據的企業提供了一條可行的技術路徑。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。