AnyLanguageModel 的起點可以追溯到 2025 年 11 月 Hugging Face 在官方部落格的發表。它被定位為 Apple Foundation Models 框架的 drop-in replacement，中文可理解為「可直接替換的替代方案」：開發者只要把程式碼裡的 import FoundationModels 改成 import AnyLanguageModel，原本寫好的對話與推論程式碼就能沿用，但背後實際執行的模型與供應商可以隨時更換。之所以做這件事，是因為當時不少 App 開發者對在裝置上跑語言模型感到好奇，卻不清楚從哪裡開始，同時也不想為每一種推論供應商分別維護整合程式碼所帶來的複雜度。本地推論與雲端推論各有強項，在新一代智慧型應用中都有位置，而共用的 API 讓開發者更容易依照任務需求挑選合適的模型。經過一年、數十個版本的迭代，AnyLanguageModel 1.0 正式發布，同期還有 swift-huggingface 1.0 與 swift-xet 1.0，這兩個套件負責把 Hugging Face Hub 的模型加速下載機制帶進 Swift 應用程式。
相容的 API 與一年間新增的能力 核心概念維持不變：用 Foundation Models 的 API 寫程式，實際執行的模型則依需求替換。同一段 session 程式碼，可以驅動系統內建模型，也能透過 llama.cpp、MLX、Core ML 執行開放權重模型（open-weight models，指權重參數公開、可自行下載部署的模型），還能直接連到各家託管服務。一年下來累積的功能包括：tool calling（工具呼叫，讓模型在回覆中要求外部函式執行，以取得即時資料或執行動作）在所有供應商上都能運作；guided generation（引導式生成，透過語法約束強制模型輸出符合指定結構的內容）同樣全供應商支援，包含巢狀的 @Generable 型別及其陣列；圖片支援則可依 Foundation Models 27 的語法把圖片附加到提示詞中，在 iOS、macOS 與 visionOS 27 使用系統模型時也能運作。在 OS 27 上，AnyLanguageModel 也支援任何符合 Foundation Models 的 LanguageModel 協定的模型，其中包含 Core AI 模型。
托管模型與跨平台 這一年托管（hosted，指推論在遠端伺服器執行、裝置端只負責送出請求）的支援同樣大幅擴張。目前支援 OpenAI 的 Chat Completions 與 Responses API，其中 Open Responses 可用於任何具備相容端點的供應商；Anthropic 的 Messages API，附帶自適應思考與 effort 選項；Google Gemini API；Ollama；OS 27 上的 Private Cloud Compute（蘋果的私密雲端運算，把請求送到蘋果伺服器處理，並以密碼學方式保證資料不被留存）；以及 Hugging Face Inference Providers 與其他 OpenAI 相容端點（例如 OpenRouter），只需自訂 base URL 即可接入。透過 Inference Providers，開發者可以用同一段 session 程式碼呼叫裝置跑不動的超大開放權重模型，例如把 baseURL 指到 router.huggingface.co、指定 openai/gpt-oss-120b 就能使用。託管供應商與本地模型享有相同功能：引導式生成、含串流的工具呼叫，以及回應中的 token 用量統計。推理（reasoning）區塊如今也納入對話紀錄（transcript），切換供應商時若新供應商無法重放這些區塊，請求會自動省略。API 金鑰改由閉包（closure）而非字串取得，方便應用程式向自家伺服器換取短期權杖；README 也說明了何時該讓使用者自備金鑰、何時應透過代理轉送請求。此外 AnyLanguageModel 也支援 Linux，同一份程式碼可以直接部署到伺服器上運行。
開放權重模型的進展 在把本地模型用起來的同時，模型本身的能力也持續提升，小型模型已經足以作為起點。目前 Hub 上下載量居前的幾款包括：Google 的 Gemma 4 E2B，提供 GGUF 格式，Q4_0 量化後約 3.4 GB，採用量化感知訓練（quantization-aware training，於訓練階段就模擬量化誤差，使低位元權重仍保有精度）；Liquid AI 的 LFM2.5 2.6B，GGUF 格式 Q4_K_M 約 1.7 GB；Alibaba 的 Qwen3.8 27B 提供 MLX 版本，4 位元約 16 GB。前兩款可放入 iPhone，Qwen3.8 27B 則需要 32 GB 以上記憶體的 Mac 才能執行。選用 MLX 模型只需一行程式碼，指定 modelId 為 mlx-community/Qwen3.8-27B-4bit 即可。至於 Z.ai 的 GLM-5.3，BF16 格式約需 1.5 TB，得準備四台頂規 Mac Studio 才塞得下，其他人可改用 Inference Providers 取用。
升級、社群與未來方向 升級方式是把套件依賴指向 AnyLanguageModel 1.0.0 並加上 "MLX" trait，既有專案則需參考 AnyLanguageModel、swift-huggingface 與 swift-xet 三份 release notes 中的遷移說明來更新程式碼。Hugging Face 也指出，社群回饋與貢獻直接塑造了多項主要功能。從較大的脈絡來看，語言模型已證明是把智慧放進產品的有效工具，但它只是開發者可用的眾多模型種類之一；官方表示接下來會把同樣的做法延伸到更多能力，也就是提供熟悉的 Swift API，並讓開發者選擇在裝置上執行的模型，近期規劃包括「做決策的模型」與「能聆聽的模型」。
影響與限制 這套方案的實務意義在於把「選哪個模型」從程式架構問題降為設定問題：同一份 session 程式碼可在系統模型、開源模型與雲端模型之間切換，開發者不必為每個供應商重寫整合層，也能依照隱私、成本與延遲需求安排本地與雲端的比例。不過限制依然明確。首先，功能完整度依平台版本而異，圖片支援、Core AI 模型與 Private Cloud Compute 都綁定 OS 27，較舊系統的可用範圍較窄。其次，跨供應商的推理區塊相容性取決於對方能否重放，切換時可能遺失這部分內容。第三，金鑰改由閉包取得雖然方便串接自家伺服器，但金鑰保管、請求代理與資料隱私仍須由應用自行把關。最後，本地端的模型檔大小仍是硬門檻，多數手機只適合 4 GB 以下的模型，更大規模的推理終究要回到託管端。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。