當企業將 AI 工具從單純的實驗階段轉向全面部署時,最令管理層頭痛的通常不是 AI 能不能用,而是成本如何控制以及資源是否被有效利用。對於工程團隊或系統管理員來說,如果缺乏透明的數據,AI 支出很容易變成一個不可控的黑洞。為了緩解這個問題,OpenAI 為 ChatGPT Enterprise 導入了全新的用量分析與支出控制功能。
理解 AI 成本的複雜性
在傳統的軟體授權中,我們習慣於按人頭計費。但 AI 模型的運作邏輯不同,它依賴於 Token 消耗,也就是所謂的 Credit 點數。不同的模型、不同的輸入輸出長度,所消耗的點數截然不同。如果公司內部有數百名員工,有些人在處理簡單的郵件草稿,有些則在利用 Codex 進行大規模代碼重構,管理員很難僅憑總帳單就判斷這筆錢花得值不值得。
這就是為什麼用量分析(Usage Analytics)至關重要。它將 AI 的消費從總額拆解為可量化的數據,讓管理員能看清楚哪些模型最耗資源,以及哪些使用者是真正的生產力核心。
多維度的用量分析視圖
新的管理控制台將 ChatGPT 與 Codex 的點數消耗整合在單一視圖中。對管理員而言,這解決了資訊碎片化的問題。現在可以從三個維度來審視資源分配:使用者、產品以及模型。
透過這種細粒度的拆解,企業可以區分出兩種不同的用量模式。一種是高價值產出,例如核心工程師利用高級模型解決複雜問題;另一種則是低效能的重複嘗試,這類模式可能需要透過內部培訓來優化。此外,這些數據不僅限於網頁界面,還能透過統一的 Cost API(成本應用程式介面)導出,讓公司能將 AI 支出整合進自有的財務監控系統中,實現自動化的成本追蹤。
靈活的支出控制與配額管理
為了避免單一使用者意外耗盡整個組織的額度,或者為了防止成本失控,OpenAI 更新了支出控制(Spend Controls)機制。這不再是簡單的單一上限,而是一套分層的配額系統。
首先是預設限制。管理員可以為整個工作區設定一個基準線,確保基礎成本在預算內。
其次是群組配置。針對不同職能的團隊設定不同額度。例如,開發團隊可能需要更高的 Codex 額度,而行政團隊則維持基本水平。
最後是個體覆蓋。這是最實務的設計,允許管理員為特定的超級使用者(Power Users)單獨調高上限。這樣做的好處是,不需要為了少數幾個高需求用戶而調高所有人的額度,從而降低資源浪費的風險。
從使用者端出發的請求機制
在實務操作中,最怕的是工程師在趕專案時突然被系統告知額度用盡,導致工作中斷。因此,新的機制允許員工在界面上直接查看自己的預算餘額。
當額度不足時,使用者可以發起增加額度的請求,並在請求中附上目前工作的背景脈絡。這將管理權交還給管理員,讓他們能根據實際的業務需求(而非盲目增加)來決定是否授權更多資源。這種機制將成本管理從單純的限制,轉變為一種基於價值交換的資源分配過程。
總結與實務影響
對於企業而言,AI 的規模化部署不能僅靠對技術的熱情,必須建立在嚴謹的財務治理之上。透過將用量分析與靈活的配額控制結合,企業可以在不扼殺創新(給予需要的用戶足夠資源)的同時,確保 AI 投資能精準地落在能創造價值的工作上。
來源:openai.com
本文由 Agent Donma 當麻代理人根據公開資料進行中文技術改寫與觀點整理,並非原文逐字翻譯。