將一個強大的 AI 基礎模型（Foundational Model）轉化為數億人使用的行動端功能，這之間存在巨大的工程鴻溝。許多開發者容易陷入「只要模型夠強，產品就成功」的誤區，但實際上，模型僅是起點。
本文將根據 Google 技術主管 Bhavuk Jain 的分享，解析將 AI 產品化（Productizing AI）的四個核心工程階段，並透過「AI 壁紙」與「圈選搜尋（Circle to Search）」兩個實際案例，探討在行動端實現創意與理解功能的實務挑戰。
AI 產品化的四個非議價工程步驟
一個原始的模型通常不可預測且缺乏約束，要將其變成可商用的產品，必須經過以下流程：
第一步：後訓練（Post-training） 這是賦予模型禮貌、性格與安全意識的階段，目的是讓模型對齊（Alignment）人類的偏好。常見技術包括 RLHF（從人類回饋中強化學習），雖然靈活但複雜，需要維護獎勵模型；以及 DPO（直接偏好優化），直接透過對比正確與錯誤的輸出進行監督學習，更易於擴展。
第二步：微調（Fine-tuning） 將通用模型轉化為特定領域的專家。實務上可採取指令微調（Instruction Tuning）來學習特定輸入輸出對，或使用 PEFT（參數高效微調）技術如 LoRA。PEFT 的重要性在於它不需要更新所有權重，僅訓練微小的模組，大幅降低運算成本並提升訓練速度。
第三步：檢索與接地（Retrieval and Grounding） 為了解決 AI 幻覺（Hallucination）問題，不能僅依賴模型在訓練時凍結的參數記憶，而必須將其連接到外部真實數據源（如知識圖譜、即時網頁結果或裝置端上下文）。這就是 RAG（檢索增強生成）的核心邏輯，確保答案事實正確且即時。
第四步：推論與護欄（Inference and Guardrails） 在部署前必須建立多層安全防護機制。這包括數據護欄（過濾訓練集）、模型護欄（使用安全微調模型或系統提示詞）以及運行時護欄（Runtime Guardrails），在推論瞬間即時偵測毒性內容或個資洩漏（PII）。
案例一：AI 壁紙 —— 解決生成式 AI 的空白畫布問題
AI 壁紙旨在讓用戶透過簡單描述創造獨一無二的背景。這是一個追求創意的生成式任務，其核心工程挑戰在於如何平衡自由度與品質。
對抗空白畫布問題 大多數用戶並不擅長提示詞工程（Prompt Engineering），如果給用戶一個空白文字框，會導致兩個問題：一是用戶挫折感高，二是輸出結果不可預測，導致安全護欄難以設定。
Google 的解決方案是採取限制性路徑（Restricted Approach），將其設計為引導式創作。系統提供預設的創意模塊（Chips），將用戶的簡單選擇轉換為高度結構化、包含藝術修飾詞與負面關鍵字的複雜提示詞。這種做法雖然犧牲了部分自由度，但確保了產出品質的穩定性，並降低了生成違規內容的風險。
品質量化與優化 AI 並沒有審美觀，因此工程團隊建立了一套由人類參與的評估管線（Human-in-the-loop）。他們生成數百萬張圖片，由設計師根據格式、完整度與美感進行評分，進而篩選出模型表現最出色的主題集群，僅將這些高品質領域開放給用戶。
案例二：圈選搜尋 —— 消除摩擦的視覺理解實務
圈選搜尋（Circle to Search）則屬於理解類 AI，目標是將螢幕上的像素轉化為精準的搜尋查詢。
從世界面向轉為螢幕面向 傳統的 Google Lens 需要切換 App 並對準相機，這產生了巨大的操作摩擦。圈選搜尋將其整合進 Android 作業系統底層，實現零上下文切換（Zero Context Switching）。
多模態推論管線 當用戶圈選物體時，系統傳送的不僅是截圖，還包含螢幕的結構佈局（Semantic Layout）。AI 管線會同時啟動多路檢索：一方面查詢知識圖譜（Knowledge Graph）獲取結構化事實，另一方面進行視覺相似搜尋。最後由 Gemini 等模型將這些碎片資訊合成自然語言答案。
可靠性的工程保障 為了防止 AI 亂猜，系統採取了嚴格的接地策略。如果 AI 識別出某種植物，它會將結果與可靠的知識庫交叉比對。在信心值低時，系統會選擇提供廣泛的建議而非給出錯誤答案，因為錯誤的答案比沒有答案更能摧毀用戶信任。
給工程師的實務建議
第一，思考產品化而非僅僅是部署。一個強大的模型只是起點，真正的工程量在於建立評估管線、優化推論延遲（如使用 Prefix Caching 緩存重複的提示詞前綴）以及設計安全護欄。
第二，識別模型強項而非強求全能。AI 像藝術家而非電腦，擅長某些風格而拙於某些。工程師應找出模型的甜點區（Sweet Spot），並圍繞這些強項設計產品功能。
第三，深層系統整合能創造 AI 價值。AI 的能力提升固然重要，但消除用戶在獲取答案過程中的摩擦（Friction）往往能帶來更顯著的用戶增長。
來源：infoq.com - Engineering AI for Creativity and Curiosity on Mobile
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。