背景與定位
Hugging Face 在 2026 年 10 月 16 日刊出官方文章，介紹美國新創實驗室 Reflection 的第一個模型 Beam。Beam 以 Apache 2.0 授權釋出，任何人都可以下載權重、在自家機房或雲端運行，並依照需求修改。它是一個純文字輸入輸出的模型，專注於程式設計與代理（agentic）應用，也就是讓模型自己操作終端機、呼叫工具、跨多輪對話完成任務的使用情境。Beam 採用混合專家（mixture-of-experts，MoE，一種只啟用部分子網路來處理每個詞元、以較低運算成本維持大模型容量的架構），總參數 501B，每個詞元實際運算的活躍參數約 23B，上下文視窗達 1M 詞元。模型隨附專屬的 Rust 開源執行框架（harness），並在 transformers、vLLM、SGLang 三大推論函式庫取得同步支援，Reflection 團隊也一併提供推論、監督式微調與強化學習的處方。對希望在自有硬體上取得前沿等級模型、再針對自己場景客製化的團隊來說，這是目前少見的完整開源選項。
模型架構的核心設計
Beam 的解碼器共有 52 層，隱藏維度 5,120。注意力部分採混合設計：43 層只回看前 512 個詞元，屬於滑動視窗注意力（sliding-window attention，限制每層只注意固定長度近期範圍，用來壓低長上下文的運算與快取成本）；其餘 8 層加上最後一層共 9 層觀察完整上下文。兩類層處理位置的方式不同，滑動視窗層使用 RoPE（旋轉位置編碼，以相對旋轉表示詞元順序），全域層則完全不加位置編碼，改用隨可見詞元數緩慢增長的乘數 (1 + (pos + 1) / 2048) ^ 0.1 來縮放查詢，作用類似溫度，讓 softmax 在上下文變長時仍保有區分度，實作上稱為 scalable-softmax。注意力本身是分組查詢注意力（grouped-query attention），48 個查詢頭配 8 個鍵值頭，查詢與鍵都經過 RMSNorm，輸出投影前還有一個由層輸入算出的 sigmoid 閘門逐通道縮放。
專家層方面，前 3 層使用一般的 SwiGLU MLP，其餘 49 層各有 256 個專家，每個中間層維度 2,560、約 39M 參數，專家合計佔全模型 98.4% 的參數。路由器沿用 DeepSeek-V3 的分組限制方案：先以 sigmoid 為 256 個專家打分，切成 8 組、每組 32 個，依「每組前兩名分數之和」選出最好的 4 組，再在其中挑前 8 個專家；與 DeepSeek-V3 不同的是 Beam 沒有共享專家。專家輸出以正規化後的路由權重合成，再乘 2.5。由於每個詞元只跑 8 個專家，推論速度接近 23B 模型，但 256 個專家都要留在記憶體內，部署仍需承擔 501B 模型的記憶體需求。
殘差流是另一個顯著差異。標準 Transformer 以權重 1 直接把子層輸出加進主流，訊號會隨深度累積；Beam 把輸入嵌入視為第 1 步，第 k 步以 1/sqrt(k) 加入子層輸出、以 sqrt((k-1)/k) 保留既有訊號，兩者平方和為 1，因此殘差流從第一層到最後一層維持固定尺度，全部 104 次相加後，每個子層輸出與輸入嵌入在最終隱狀態中的權重完全相同。所有子層前後都做正規化，最終 logits 以 FP32 計算並用 ±30 的 tanh softcap 限制範圍；路由器、SwiGLU 乘積、正規化、RoPE、查詢縮放與 softcap 都固定以 FP32 運算。
長上下文、效能與硬體需求
混合注意力直接反映在鍵值快取（KV cache，推論時儲存歷史鍵值以避免重算的緩衝區）上。每層每個詞元快取 2 x 8 x 128 = 2,048 個值；若 52 層全部保留，每個詞元增加 208 KiB。實際只有 9 層全域層保存完整序列，43 層滑動視窗各固定 512 詞元不再增長，使快取增幅降為每詞元 36 KiB，約為原本的六分之一。以 BF16 單序列為例，32K 詞元時為 6.5 GiB（全全域為 1.2 GiB 對照的 6.5），128K 時 26 GiB，1M 滿上下文時 208 GiB 降至 36.08 GiB。這正是 Beam 敢把上下文開到 1M 的前提。
Reflection 團隊公布的基準測試中，BF16 版本在 SWEBench Verified 拿下 81.6%、Terminal Bench v2.1 為 80.1%、SWEBench Multilingual 78.3%，推理方面 AIME 2026 為 97.7%、GPQA Diamond 90.6%、LiveCodeBench 88.3%，HLE 在搭配工具時為 51.1%。量化版本差距有限：FP8 與 NVFP4 在多數項目與 BF16 相差一到兩個百分點，SWE Bench Pro v2-Hard 的 NVFP4 甚至以 78.6% 略高於 BF16 的 76.5%。
硬體門檻仍然很高。BF16 的 safetensors 權重約 1 TB；NVFP4 把多數參數壓到 4-bit、部分保留 BF16 以維持精度，縮到約 280 GB，但只有 Blackwell GPU 能原生執行，H200 等較舊晶片需改用適用於 Hopper 與 Ampere 的 FP8 檢查點。單張 B200 有 180 GB HBM3e，兩張 360 GB 剛好放下權重卻幾乎沒有空間給活化值與 KV 快取，官方建議至少四張 B200（720 GB），或整台 8xB200、兩張 B300，乃至 8xRTX Pro 6000。跨卡部署依賴專家並行（每個專家放一台裝置），注意力、稠密層、嵌入與 LM head 則在每台複製，合計 8B 參數即 BF16 下的 16 GB，且裝置數必須能整除專家總數 256；例如 16 張 H200 時每卡 78 GB，改用 8 張則每卡 139 GB，對 141 GB 的 H200 已無餘裕。
部署、後訓練與實作方式
推論端提供兩條加速路徑。一是 DFlash2 投機解碼（speculative decoding，先由小模型猜測多個詞元、再由大模型一次驗證以提高吞吐），小型起始模型最多預先提出 15 個詞元，Beam 一次前向全部檢查，代價只是起始模型的額外記憶體。二是 tokenizer 內建回應範本，parse_response 可直接把原始輸出拆成推理、答案與工具呼叫三個欄位，不必再寫正則表示式；工具參數以模型專屬的 XML 風格語法寫出，解析時依工具 schema 轉回宣告的型別，避免「7」究竟是數字還是字串的歧義。模型還支援五級推理強度（low、medium、high、xhigh、max）與 preserve_thinking，讓推理內容跨輪保留在上下文中。沒有 Blackwell 硬體的使用者可改用 Hugging Face Inference Providers（由 Baseten、Fireworks、Together 提供）或一鍵部署的 Inference Endpoints。
後訓練部分，TRL 的 SFTTrainer 搭配 LoRA 可在凍結基礎權重下微調；官方以 Multilingual-Thinking 資料集訓練後，模型在 16 個留出提示中有 16 次依指定語言推理，基礎模型僅 3 次，單節 8xB300 可達約每秒 19,000 詞元，H100 則需四個節點。強化學習採 GRPO 與 Miles 框架：Megatron 負責訓練、SGLang 生成 rollouts、Miles 把新權重同步給推論引擎，全參數訓練參考配置為 96 張 H200（64 訓練、32 推論），LoRA 版本 32 張即可。以 DAPO-Math-17K 訓練並在 AIME25 評測的處方已在 Ray 叢集驗證，優化器固定 Adam 1e-6，狀態經節點本地 NVMe 流式存取，每台訓練節點需 2 TB 暫存空間。
影響與限制
Beam 的意義在於把「前沿規模、可自行擁有」這件事落到可執行的層面：完整的 Apache 2.0 權重、多種精度檢查點、原生函式庫支援、微調與強化學習處方，以及 Rust 框架，構成一條從部署到客製化的完整路徑。Reflection 也以 10,000 美元 Hub 額度鼓勵社群提交示範、量化、資料集與基準測試；Hugging Face 公布的三項實測包含用 Beam 與 Pi 建構 macOS 本地聽寫應用、以 ProgramBench 比較單一代理、五個持久協作代理與主代理分派三種多代理配置，以及把事件分級政策蒸餸成 Qwen3.5-0.8B 小型決策模型，後者在 320 張測試工單上三項判斷全對的比例達 76.25%，對照未微調模型的零樣本提示僅 4.69%，平均延遲從 1,218.06 ms 降至 102.58 ms。限制同樣清楚：記憶體需求使多數團隊無法單卡運行，NVFP4 綁定 Blackwell，官方也明言那五項「vibe evals」只是快速試用而非基準測試，且其中一項長上下文檢索任務在低推理強度下因回應不符解析格式而失敗，語言遵循的微調評估也只衡量是否用對語言、不保證推理正確。落地前仍需以自身場景重新驗證。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。