背景 InfoQ 收錄的 QCon AI 演講中，CloudZero 創辦人兼 CTO Erik Peterson 提出一個不太舒服但越來越難否認的判斷：AI 支出不只是新增一筆帳單，而是正在蓋過傳統雲端帳單，並把軟體工程推向一場成本經濟危機。他的核心說法不是「模型很貴」這麼簡單，而是企業已經進入每個決策都等於採購決策的時代：查資料、寫程式、產圖、潤飾郵件、規劃行程，很多過去近似免費的認知動作，現在都會經過某個 LLM 並產生 token 成本。當「思考」本身被計費，工程管理的重點也從伺服器、資料庫與流量，移到提示、上下文、模型選擇、代理人迴圈與結果是否值回票價。
這場演講之所以值得整理，在於講者並非站在外圍批評，而是來自長期做雲端成本控管的公司。CloudZero 自詡為雲端與 AI 的財務控制面，Peterson 卻承認：即便他每天看雲端供應商、AI 供應商與各種成本資料，也無法完全信任 AI 帳單。這句坦白是整個問題的入口。雲端時代至少還能拿到 EC2、S3、資料傳輸等分項；AI 帳單卻常像回到一百年前的電費單，只告訴你用了多少「度數」，卻不說這些度數點亮了什麼、浪費在哪裡、又對應哪個產品功能或客戶價值。
帳單為何不可信 Peterson 形容 AI 計費像一團被刻意或結構性隱藏的黑盒。表面上是 token 進、token 出，實際上模型版本、供應商內部調整、輸入輸出格式、音訊靜音、圖像與程式碼的不同公式，都可能影響費用。馬里蘭大學研究者把這類問題稱為 CoIn，也就是 cost of the invisible，試圖量測那些沒有出現在畫面上、卻被收費的隱形成本。更麻煩的是各供應商沒有一致單位、術語與 schema，企業想把 OpenAI、Anthropic、Google、程式工具與內部代理人用量合在一起看，常常先被格式與定義拖垮。
價格本身也不必然合理。演講舉例說，舊模型可能仍以高價存在，市場上明明有更好且更便宜的替代方案；不同區域定價未必符合直覺；tokenizer 改變可能讓成本突然上升三成以上；成本資料 API 還可能日常回傳 500 錯誤，或一筆壞資料就讓匯入流程爆炸。Anthropic Enterprise 的正式帳務 API 也是到相當晚才補上，claude.com 與 claude.ai 的可取得性一度不同，企業甚至得靠截圖或下載試算表補資料。這些不是遠古痛點，而是近九十天的即時變動；也因此，靜態報告很容易在寫完時就已過時。
反轉：建置成本壓過服務成本 真正讓 CFO 醒過來的是「反轉」：過去最貴的是 cost to serve，也就是把雲端服務交付給客戶的成本；現在越來越多公司發現 cost to build，也就是打造、維護、部署這套東西的成本，反而更可怕。Peterson 用 1865 年的 Jevons Paradox 解釋：效率越高，總消耗可能越大。token 單價大幅下降，但企業支出仍上升；他看到某些環境 GenAI 支出在五個月內成長十四倍，且其中很大比例落在請求、系統、研發、人力與 Claude Code 等周邊開銷，而非可直接對應收入的產出。新模型一發佈，客戶可能一個月從零衝到兩百萬美元支出；真正持續使用便宜模型的人卻不到百分之二。效率沒有帶來節制，反而帶來更多嘗試、更多上下文、更多自動化與更多不可見用量。
這也引出 tokenmaxxing 的荒謬：把 AI 用量做成排行榜，彷彿花得少就是不投入。Peterson 粗估這個虛榮指標可能造成數十億到一百五十億美元等級的浪費；更糟的是它扭曲行為，讓員工以為燒 token 等於忠誠，讓管理者以為支出曲線可替代產出證據。當 CEO 看到大筆投入覺得「大家都在做點什麼」，CTO 卻可能發現每個員工都變成非常初階的開發者，連 HR 都因為 Claude 說需要 GitHub 帳號而跑來要權限。工具的民主化很迷人，但如果缺少工程治理，民主化也會把事故半徑同步擴大。
後果與風險 演講提到 Uber、JPMorgan 與 Microsoft 限制或質疑部分 AI 使用的例子，重點不在誰家花最多，而在公司開始追問：錢與結果之間的連結是什麼。預算警示通常沒用，因為錢往往已經花掉；工程師看到警示甚至可能不敢關、不敢問，怕違背「多用 AI」的文化。Peterson 早年提出 Denial-of-Wallet 的概念，如今在 AI 時代更尖銳：攻擊者不必先偷資料，只要取得雲端環境、找到 Bedrock 或各種模型端點，就能用受害者的額度發動高成本任務，最後帳單還是寄給被入侵的一方。若沒有 per call、per user、per agent 的上限，一家公司在幾週內燒掉可觀資本並非誇張。
另一個隱形稅是上下文與工具鏈。百萬 token 視窗、數十個 MCP server、把整個世界塞進提示，聽起來強大，實務上常變成白天都在修自己製造出來的 bug。Netflix 嘗試壓縮輸入 token 的例子顯示，不持續磨利工作方式，就會被上下文稅拖住。同樣產出下，不同工程師的 token 花費差異極大；差異常來自如何規劃任務、切分步驟、打包上下文，而不是誰比較會「vibe」。evals 也可能失控，尤其 LLM-as-a-judge 會讓品質評估本身變成昂貴產線。
該改量的不是花了多少，而是值不值 Peterson 的主張不是回到手工浪漫，而是把工程文化從工藝執念轉向結果經濟學。他自己承認已不太看產出的程式碼，轉而看測試、驗證與是否滿足需求；因為當 LLM 成為主要產碼者，人類價值更可能落在品味、目標設定、風險判斷與結果承接。實務上應追問四件事：單位經濟是什麼，完成一次交易、功能或客戶成果要多少成本；某個模型達成結果的效率是否配得上價格；自主化帶來的毛利改善是多少；以及系統能否依客戶層級、終身價值與毛利目標路由到不同模型，而不是免費版與高價企業版共用同一條最貴管線。
這也把 FinOps 從工程部門推向財務長辦公室。AI 支出太大時，它不再是預算小技巧，而是 P&L 問題；握有薪資資料的人開始把人力成本與 token 成本放在同一張表裡比較。工程師與財務其實比想像中像，都是高技術、重細節的紀律文化，只是語言不同。與其向業務端解釋 Kubernetes，不如說每筆交易從二十五美分降到十美分；前者像咒語，後者是可立即執行的商業判斷。Peterson 預測到 2027 年主要採購者將不是人，而是自主 AI 系統；2028 年可能出現 AI 寫碼、部署、治理的全自動雲端。若這方向成立，企業現在就要把成本訊號、限額、路由與結果指標嵌進 SDLC，否則儀表板只會成為災難的事後驗屍報告。
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理，並非原文逐字翻譯。