跳到主要內容
maxstudioNews
商業DEV Community (Codex)約 11 分鐘

Codex 代幣用量管理:AI 閘道如何追蹤與限制團隊支出

Codex CLI 的代幣用量會因上下文大小、代理回合、推理複雜度和模型選擇而快速增長,導致難以預測成本。OpenAI 原生工具僅限個人追蹤,無法有效管理團隊支出。開源 AI 閘道 Bifrost 透過虛擬金鑰和分層預算,讓企業能精確歸因代幣用量、實施支出上限,並透過快取和智慧路由進一步降低成本。

Codex 代幣用量管理:AI 閘道如何追蹤與限制團隊支出
圖片來源:DEV Community (Codex)

簡而言之,Codex 的代幣用量會隨著上下文大小、代理回合數、推理複雜度和模型選擇而增加,因此即使是相似的任務,也可能消耗截然不同的代幣量。Codex CLI 的 /status 和 /usage 指令只能顯示單一開發者的代幣活動,無法歸因團隊支出,也無法在預算用盡時阻擋請求。

Bifrost 可以在供應商配置、虛擬金鑰、團隊和客戶層級強制執行預算,並在任何適用預算耗盡時拒絕 Codex CLI 請求。Bifrost 在每秒 5,000 個請求的負載下,每個請求僅增加 11 微秒的開銷,因此預算檢查不會拖慢互動式的 Codex CLI 會話。

連接 Codex CLI 需要執行 /logout、匯出虛擬金鑰,並在 ~/.codex/config.toml 中新增一個命名的 model_providers 條目。Codex 代幣用量是 OpenAI 的 Codex CLI 在讀取儲存庫、呼叫工具和編輯檔案時所消耗的輸入、快取輸入、輸出和推理代幣總數,當整個工程團隊每天運行此代理時,用量會迅速累積。

Bifrost 是由 Maxim AI 使用 Go 語言建構的開源 AI 閘道,它位於 Codex CLI 和模型供應商之間,用於將每個代幣歸因於特定的開發者、在支出發生前強制執行預算,並記錄每個請求的成本。本指南將介紹如何檢查 Codex 代幣用量、Codex 成本和用量限制的運作方式,以及如何配置 Bifrost 以確保 Codex CLI 的支出保持可預測。

有四個因素會影響 Codex 的代幣支出:代理讀取的上下文、代理回合數、推理複雜度以及模型的每代幣費率。OpenAI 的 Codex 定價頁面指出,模型選擇、上下文、推理、工具使用、檢索和快取都會影響用量,因此僅憑提示詞長度並非可靠的估計方式。

儲存庫上下文,包括檔案、聊天歷史記錄和工具結果,都會作為輸入代幣發送,其數量遠超過開發者輸入的提示詞。代理回合,例如規劃、編輯、測試和修復步驟,都是獨立的請求,每個請求都會重播不斷增長的對話。

推理複雜度越高,會產生更多的推理代幣,並以輸出代幣計費。模型費率方面,根據 OpenAI 目前的 Codex 點數費率卡,GPT-6 Astra 每百萬輸入代幣成本為 250 點,輸出代幣為 1,250 點,而 GPT-6 Luna 則分別為 2.5 和 12.5 點。

這意味著相同代幣數量的成本可能相差 100 倍。模型選擇是團隊最能直接控制的因素,這也是為什麼共享控制點至關重要。AI 閘道架構的支柱指南解釋了適用於任何客戶端和模型組合的此模式。

Codex CLI 透過兩個斜線指令顯示代幣用量。/status 會顯示會話配置和代幣用量,包括活動模型和剩餘的上下文容量。/usage 則顯示每日、每週或累計的 ChatGPT 代幣活動。

這兩個指令都僅報告單一開發者的會話或帳戶,並且無法停止請求。OpenAI 在 Codex CLI 斜線指令頁面上有詳細說明,ChatGPT 方案使用者也能獲得一個顯示重置時間的用量儀表板。

Codex CLI 可以匯出 OpenTelemetry 指標,包括按輸入、快取輸入、輸出和推理代幣劃分的 turn.token_usage 指標;此匯出功能預設為關閉,可透過 [otel] 區塊啟用。

下表比較了不同方法:Codex CLI 中的 /status 顯示會話模型、配置和代幣用量,但無法歸因團隊支出或在達到限制時阻擋請求。Codex CLI 中的 /usage 顯示每日、每週或累計的 ChatGPT 代幣活動,同樣無法歸因團隊支出或阻擋請求。

ChatGPT 用量儀表板顯示單一帳戶的方案限制和重置時間,但無法歸因團隊支出或阻擋請求(儘管方案限制會生效)。Codex OpenTelemetry 匯出功能顯示每個回合的代幣計數,如果每台機器都配置了,則可以按機器歸因,但無法阻擋請求。

Bifrost 請求日誌則顯示每個請求的代幣、成本、延遲、模型和虛擬金鑰,可以歸因團隊支出,並透過預算和費率限制阻擋請求。最後一行的差異在於位置。Bifrost 位於請求路徑上,因此其請求日誌可以在一個地方計算每個開發者的 Codex 代幣用量,並且其預算會在達到限制時拒絕下一個請求。客戶端方法只能事後報告。

Codex 的成本取決於開發者登入的方式。如果使用 ChatGPT 方案,Codex 用量會先從方案包含的額度中扣除,然後再從點數中扣除。如果使用 API 金鑰,Codex 用量則按照金鑰可存取模型的標準 API 定價計費,沒有方案額度,也沒有五小時的限制。

OpenAI 的 Codex 方案和費率卡列出了目前的選項:免費方案每月 0 美元,提供 GPT-6 Luna 的基本存取權限。Go 方案每月 8 美元,適用於輕量級編碼任務。Plus 方案每月 20 美元,有每五小時的本地訊息限制,可能還有每週限制,之後則從點數中扣除。

Pro 方案每月 100 美元起(100、200 或 500 美元等級),目前沒有五小時限制,提供更高的額度,之後從點數中扣除。Business 方案每年計費為每位使用者每月 20 美元,每月計費為 25 美元,提供標準 Business 方案的五小時額度,以及工作區點數。

Enterprise / Edu 方案需聯繫銷售人員,彈性定價方案沒有固定的費率限制。API 金鑰則按照標準 API 定價,按代幣計費;模型依金鑰可存取的範圍而定,不包含 GitHub 程式碼審查或 Slack 等雲端功能。

在規劃 Codex 用量限制時,有兩個細節很重要。Codex 點數計費沒有單獨的快取寫入費用,且 GPT-5.5 將於 2026 年 10 月 14 日從所有 ChatGPT 方案的 Codex 中退役,因此基於 GPT-5.5 費率建立的預算需要更新。

對於 API 金鑰模式下的 Codex CLI 定價,這也是團隊透過閘道路由 Codex 的方式,費用是每個請求的代幣按供應商費率計算。OpenAI 模型成本計算器在推出前提供了每百萬代幣的基準線。

Codex 代幣用量需要團隊層級的控制,因為所有內建視圖都僅限於單一開發者,而帳單卻是針對整個組織。如果沒有共享的控制點,平台團隊就無法得知哪個開發者或模型導致了 Codex 成本飆升,也無法在帳單寄來之前阻止失控的代理迴圈。

團隊通常會嘗試四種方法之一:每位開發者的 ChatGPT 席位,提供每個帳戶的儀表板和方案限制,但沒有專案預算,且限制由 OpenAI 設定,而非團隊。一個共享的 OpenAI API 金鑰,提供組織層級的計費和供應商費率限制,但無法按開發者歸因。

每位開發者獨立的 API 金鑰,提供按金鑰計費和手動金鑰撤銷,但會導致金鑰蔓延,且沒有模型或供應商政策。帶有虛擬金鑰的 AI 閘道,可以按請求、按開發者、按模型進行可視化,並提供預算、費率限制和路由規則,但需要運行一個閘道。

如圖 1 所示,一旦所有開發者的流量共享一個閘道,Codex 代幣用量就能夠被歸因和強制執行。Bifrost AI 閘道為每個開發者或 CI 工作提供自己的虛擬金鑰,因此每個 Codex CLI 請求都帶有閘道可以計費和限制的身份。

同樣的模式也適用於其他編碼代理;關於如何使用一個閘道管理 Claude Code 和 Codex CLI 的指南,涵蓋了在共享政策下運行兩者的內容。

Bifrost 透過客戶、團隊、虛擬金鑰和供應商配置的預算層級結構來強制執行 Codex CLI 的支出。當請求到達時,Bifrost 會獨立檢查所有適用的預算,任何一個耗盡的預算都會阻擋該請求。

然後,該請求的成本會從所有適用的層級中扣除。圖 2 顯示,任何層級的一個預算耗盡都會停止請求,並且其成本會從所有適用的層級中扣除。

預算和限制系統與 Codex 的部署方式如下:客戶層級通常是一個業務單位或外部客戶,有預算但沒有費率限制。團隊層級是平台或前端團隊的每月分配,有預算但沒有費率限制。

虛擬金鑰層級是單一開發者、服務帳戶或 CI 工作,有預算和請求與代幣的費率限制。供應商配置層級是單一金鑰上獨立的 OpenAI 和 Anthropic 支出,有預算和請求與代幣的費率限制。

預算會在 1 天、1 週、1 個月、1 季或 1 年的窗口期重置;如果 calendar_aligned: true,每月 Codex 預算會在 UTC 時間每月的第一天重置。費率限制使用 token_max_limit 和 request_max_limit 及其自己的窗口期,例如供應商配置上每小時一百萬代幣,這可以限制代理陷入重試迴圈時的突發支出。

臨時預算覆蓋可以在不改變基本限制的情況下,為設定數量的重置週期增加容量,這適用於發布週。Bifrost Enterprise 在預算超過閾值時,會向 Slack、Microsoft Teams、PagerDuty 或 webhook 發送預算警報。Bifrost 治理概覽展示了這些層級如何協同運作,而關於帶有虛擬金鑰的分層支出控制的文章則涵蓋了大型組織的預算設計。

預算可以限制 Codex 的成本;快取和路由則能降低成本。Bifrost 透過三種方式減少支出:它利用會話親和性保持供應商提示詞快取活躍,可以注入 Codex 不發送的提示詞快取標記,並在供應商預算接近限制時將請求路由到成本較低的模型。

會話親和性與提示詞快取:Codex CLI 在每個請求上發送一個 session-id 標頭。Bifrost 採用該標頭實現會話親和性,因此會話會停留在服務它的供應商和 API 金鑰上,並持續讀取相同的供應商提示詞快取,無需任何配置。

在 Codex 點數費率卡上,GPT-6 Astra 的快取輸入每百萬代幣成本為 25 點,而全新輸入則為 250 點。Codex 也沒有發送提示詞快取標記,因此在 Anthropic 模型上沒有任何內容被快取,每個回合都支付完整的輸入價格。

Bifrost 的自動提示詞快取功能會在沒有快取標記的請求到達時,為第一個可快取的區塊添加標記,這樣第一個回合會寫入快取,後續回合則讀取快取。自動注入功能預設為關閉,可按供應商啟用。

語義快取及其限制:Bifrost 語義快取會重播針對相同或相似請求的已儲存回應,因此不會呼叫供應商,並且涵蓋 Codex CLI 使用的 Responses API。快取僅在請求帶有 x-bf-cache-key 標頭或設定 default_cache_key 時啟用,並且 conversation_history_threshold(預設為 3)會跳過訊息數量超過此值的對話。

長時間的 Codex 會話通常會超過此限制,因此語義快取適用於簡短、重複的請求,例如腳本化的 CI 提示詞。關於語義快取以降低代幣支出的指南涵蓋了調優。

成本感知路由規則:路由規則會評估每個請求上的 CEL 表達式。budget_used 變數報告了為請求的供應商和模型配置的預算已消耗的百分比,包括虛擬金鑰上的供應商配置。例如,一個設定在團隊或虛擬金鑰上的規則,如 budget_used > 85,可以在達到硬性上限之前將 Codex 流量重定向到成本較低的模型。

圖 3 顯示,在接近閾值時切換到成本較低的模型,可以讓開發者繼續工作,而不是遇到硬性停止。

路由到不同的模型系列之所以可行,是因為 Bifrost 將 Codex CLI 的 Responses API 呼叫轉換為支援供應商矩陣中的 25 個以上供應商和 10,000 個以上模型。關於如何將 Codex CLI 路由到任何模型的指南詳細介紹了供應商選擇和工具呼叫要求。

呼叫 MCP 工具的 Codex 會話也需要為每個請求支付工具定義費用。關於 MCP 閘道如何降低 Claude Code 和 Codex CLI 代幣成本的分析,量化了該開銷以及每個虛擬金鑰工具過濾的效果。

將 Codex CLI 連接到 Bifrost 需要五個步驟:啟動閘道、在 Codex CLI 中執行 /logout、將 Bifrost 虛擬金鑰匯出為 OPENAI_API_KEY、將命名的 Bifrost 供應商添加到 config.toml,然後啟動 codex。

首先執行登出是因為 Codex CLI 總是優先使用現有的 OAuth 會話,而不是自訂 API 金鑰。圖 4 顯示,登出步驟排在最前面,因為 Codex CLI 偏好現有的 OAuth 會話而非閘道金鑰。

按照閘道設定指南的說明,使用 npx -y @maximhq/bifrost 或 docker run -p 8080:8080 maximhq/bifrost 啟動開源 Bifrost 閘道。然後,在 Codex CLI 內部執行 /logout,退出,並在您將啟動 Codex 的相同終端機中匯出虛擬金鑰:export OPENAI_API_KEY = <bifros

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 DEV Community (Codex) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。