在開發 AI 應用時，許多工程師習慣直接使用最強大的模型（如 GPT-4 或 Claude 3.5），但當需求涉及到「大量智能體（Multi-agent）高頻率互動」的模擬系統時，頂級模型的高延遲與高成本會成為致命傷。
Thousand Token Wood 是一個有趣的實驗，它使用 Qwen2.5-3B 這種小參數模型，模擬五隻森林生物在一個微型經濟體系中進行貿易、囤積與恐慌。這個專案為我們揭示了在開發小模型應用時，如何處理「格式可靠」但「推理能力不足」的矛盾。
小模型是設計選擇而非限制
在一個活生生的經濟模擬中，每個回合都需要所有智能體進行思考與決策。如果使用大型模型，單次回合的 API 呼叫時間與費用將不可接受。而 3B 等級的小模型允許開發者在單次 GPU 批次呼叫（Batched Call）中，讓所有生物同時完成決策，實現近乎即時的模擬。
從死寂到動態：設計稀缺性
最初的模擬版本是失敗的，因為系統內缺乏動力。當生產力超過消費力時，每個生物都能自給自足，導致沒有貿易需求，市場迅速陷入死寂。
為了讓經濟運作，必須人工設計稀缺性（Designed Scarcity）。本專案採取了三種機制： 第一是飲食多樣性。規定生物每餐只能吃一種食物，因此為了生存，牠們必須交易自己無法生產的食物。 第二是食物腐爛。易腐商品若囤積過久會失效，強迫持有者在價值消失前將其賣出。 第三是冬季燃料危機。所有生物每回合必須消耗木材，且需求量隨時間增加，但只有一名生物能生產木材。這創造了極端的供需失衡，讓木材供應商迅速積累財富，驅動了整個系統的戲劇衝突。
處理小模型的推理缺陷
在實作過程中，開發者發現 3B 模型呈現出一個鮮明的特徵：它能 100% 產出正確的 JSON 格式（格式可靠），但其經濟判斷經常出錯（推理不可靠）。例如，一個生產橡果的生物竟然會發出購買橡果的訂單。
面對這種推理缺陷，增加模型規模並非唯一解，更有效的做法是透過結構化 Prompt 縮小推理空間： 首先，明確告知智能體其生產能力，並嚴禁其購買自己生產的商品。 其次，由系統預先計算好該生物目前短缺的商品清單，直接餵給模型。 最後，提供一個精確的範例（Few-shot）引導。
此外，為了防止模型偶爾產出錯誤格式導致系統崩潰，開發者在 JSON 解析層加入了容錯與修復機制，將錯誤響應視為無操作（no-op），確保模擬能持續運行。
從數據到故事：市場機制的湧現
為了增加趣味性，專案將歷史上的金融事件轉化為森林傳說。例如將「鬱金香狂熱」改寫為「橡果狂熱」，或將「銀行擠兌」改寫為「對 Oona 儲藏室的質疑」。
這些傳說並非單純的文字描述，而是會觸發真實的系統衝擊。例如當「銀行擠兌」發生時，持有大量資產的生物會為了換取貨幣（小石子）而大量拋售蜂蜜，導致蜂蜜價格從 10 暴跌至 3。
為了讓價格能靈活變動，開發者放棄了讓模型自行報價，而是設計了一套基於殘餘供需的漂移機制：若買盤強勁且未滿足，價格上漲；若供應過剩，價格下跌。這讓小模型在簡單的規則下，也能表現出複雜的市場趨勢。
給開發小模型應用的三點啟示
第一，工程重心應放在縮小格式可靠性與推理能力之間的差距。不要指望小模型能像人類一樣思考，而應透過結構化 Prompt 和外部計算邏輯來補足其推理短板。
第二，湧現系統（Emergent Systems）需要設計稀缺性。過度的豐饒會導致系統失去動力，衝突與需求才是推動智能體互動的核心。
第三，將技術限制與已知領域結合。本專案之所以成功，是因為它將 3B 模型的限制與成熟的市場經濟歷史結合，不需要編造複雜的劇本，只要設定好基本規則，經濟規律會自動驅動故事發生。
來源：huggingface.co (Thousand Token Wood: shipping a multi-agent economy on a 3B model)
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。