IBM 最近發布了 Granite 4.1 系列語言模型，包含 3B、8B 與 30B 三種規模。這系列模型最令人關注的點在於，其 8B 的稠密模型（Dense Model，指所有參數在每次推理時都會參與運算，而非部分啟動的 MoE 架構）在多項指標上竟然能媲美甚至超越前一代 32B 的 MoE 模型。這證明了在模型開發中，數據的品質遠比單純增加參數規模更重要。
模型架構基礎
Granite 4.1 採用的是 Decoder-only Transformer 架構。為了提升效率與性能，它整合了幾項現代 LLM 的核心技術：
Grouped Query Attention (GQA) 是一種優化注意力機制的技術，透過減少 Key 和 Value 的頭數來降低記憶體佔用並加速推理。 Rotary Position Embeddings (RoPE) 用於處理 Token 的位置資訊，讓模型能更好地處理長文本且具備更好的外推能力。 SwiGLU 是一種激活函數，能提供比傳統 ReLU 更複雜的非線性表達能力，提升模型學習效果。 RMSNorm 是一種層正規化方法，能讓訓練過程更穩定且計算開銷更低。
五階段預訓練策略
模型首先在 15 兆個 Token 上進行預訓練。IBM 並非一次性餵入所有數據，而是採取五個階段的漸進式策略，將數據從廣泛的網頁內容逐步過濾到高品質的專業內容。
第一階段是通用預訓練，使用大量 CommonCrawl 網頁數據建立基礎語言能力。 第二階段強化數學與程式碼，大幅提升推理能力。 第三與第四階段進入數據退火（Data Annealing），這是一個關鍵步驟，意指在訓練後期降低學習率，並餵入極高品質的數據（如思維鏈 CoT 數據），讓模型在基礎能力之上進行精細化調整。 第五階段是長文本擴展（LCE），將上下文窗口從 4K 逐步提升至 512K。為了防止模型在學習長文本時忘記短文本的能力，IBM 在每個擴展階段後都會進行模型合併（Model Merge）。
高品質的指令微調 SFT
預訓練完成後，模型只是個能預測下一個字的大型機率表，需要透過 Supervised Fine-Tuning (SFT，監督式微調) 才能變成能對話的助手。
為了確保 SFT 的品質，IBM 引入了 LLM-as-Judge 機制，即使用另一個更強的模型來擔任評審，根據指令遵循、正確性、簡潔度等六個維度對訓練樣本進行打分。如果樣本出現幻覺（Hallucination，指模型一本正經地胡說八道）或計算錯誤，會被直接剔除。最終僅選用約 410 萬個高品質樣本進行微調。
多階段強化學習 RL pipeline
在 SFT 之後，模型進入了更複雜的強化學習階段，目的是進一步對齊人類偏好並修復特定缺陷。
IBM 使用了 GRPO (Group Relative Policy Optimization) 演算法，這是一種不需要額外獎勵模型（Reward Model）來估計價值，而是透過一組輸出結果的相對得分來優化策略的技術，能有效降低運算成本。
強化學習分為四個目標明確的階段： 多領域 RL：同時訓練數學、科學、邏輯、SQL 等多項任務，防止模型在學習單一能力時產生災難性遺忘（Catastrophic Forgetting）。 RLHF：透過人類反饋強化對話的自然度與幫助程度。 身分與知識校準：確保模型能正確識別自己的身分（例如知道自己是 IBM Granite）。 數學 RL：專門修復在 RLHF 階段可能導致的數學能力下滑，讓模型恢復並超越 SFT 時的數學表現。
實務影響與部署
對於企業開發者來說，Granite 4.1 提供了幾個實質優勢。首先，它不依賴冗長的思維鏈（CoT）輸出，這意味著推理延遲更低且 Token 消耗更少，能顯著降低營運成本。其次，官方提供了 FP8 量化版本，將權重從 16 位元降低到 8 位元，能減少約 50% 的顯存佔用，讓 8B 甚至 30B 模型更容易部署在消費級或中階企業級 GPU 上。
來源：huggingface.co (Granite 4.1 LLMs: How They’re Built)
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。