Qwythos-9B 是由 Empero AI 開發的一款基於 Qwen3.5-9B 的全參數推理模型。它最核心的特點在於將強大的推理能力（Reasoning）與極長的上下文視窗（Context Window）結合，並刻意移除內容審查限制（Uncensored），使其在網路安全、生物醫學等高專業門檻領域能提供更直接、無遮掩的技術分析。
模型構建背景與訓練邏輯
Qwythos-9B 並非簡單的微調，而是經過精心設計的後訓練過程。它使用了超過 5 億個高品質 token 的數據集，其中包括 Claude Mythos 與 Claude Fable 的對話軌跡。
為了讓模型具備深層推理能力，Empero AI 使用了內部工具 rethink 來生成鏈式思考（Chain-of-Thought, CoT）數據。這種訓練方式讓模型在回答問題前，會先在內部的 think 區塊中進行假設、驗證與推論，最後才產出最終答案，從而顯著提升在數學（GSM8K）與綜合知識（MMLU）測試中的表現。
突破性的 1M 上下文視窗
對於工程師來說，最令人關注的是其 1,048,576 token 的上下文處理能力。模型透過 YaRN（Yet another RoPE extensioN）技術實現了 4 倍的rope-scaling，將原生 262K 的視窗擴展至 1M。
這在實務上意味著模型可以處理以下場景： 全專案程式碼推理：直接將整個數十萬行的程式碼庫放入 Prompt，進行跨檔案的重構或 Bug 追蹤，而不需要依賴複雜的 RAG（檢索增強生成）分塊。 長路徑代理執行：在複雜的 Agent 工作流中，即使經過多次工具調用與冗長的 API 回傳結果，模型依然能記得最初的目標。 多文獻綜合研究：一次性讀入 10 到 20 篇研究論文，直接在單次前向傳播中完成綜合分析。
原生工具調用與自我修正
Qwythos-9B 完全兼容 Qwen3.5 的函數調用（Function Calling）規範。它不需要額外的封裝層，只要在 Chat Template 中定義工具，模型即可輸出符合規範的 tool_call 區塊。
更重要的是，該模型展現了強大的自我修正能力。當搭配 Python 執行器與網路搜尋工具時，模型能意識到自身閉卷記憶的限制（例如無法精準記憶某個 CVE 編號或化學結構），主動調用工具獲取正確資訊，並將搜尋結果整合進最終答案中，大幅降低了幻覺（Hallucination）現象。
實務部署與使用建議
如果你打算部署此模型，有幾個關鍵技術點需要注意：
推理參數建議 由於推理模型在極低溫度（T ≤ 0.3）或貪婪解碼（Greedy Decoding）時容易陷入重複循環，建議使用 Temperature=0.6, Top_p=0.95, Top_k=20。此外，建議設定 Repetition_penalty=1.05 以避免長文本生成的無限循環。
效能優化 模型採用了 Gated DeltaNet 混合注意力機制。為了避免推理速度過慢，部署時必須安裝 flash-linear-attention 與 causal_conv1d 等 CUDA 內核，否則會回退到低效的 PyTorch 原生運算。
記憶體管理 雖然 1M 上下文非常強大，但對 KV Cache 的壓力極大。單張 H100/H200 建議處理 256K 至 512K 的長度。若要跑滿 1M，建議使用張量並行（Tensor Parallelism）多卡部署或激進的 KV-cache offload 策略。
專業領域應用
Qwythos-9B 刻意保持 Uncensored 狀態，這使其在以下領域具有高價值： 網路安全：能詳細分析 SQL 注入緩解、EDR 檢測繞過與紅隊攻擊路徑，而不會觸發安全拒絕機制。 生物醫學：能深入探討 CRISPR-Cas9 機制、藥理受體作用以及臨床藥物相互作用。
來源：huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。