AI API 帳單突然暴增十倍？企業級緊急煞車這樣做
許多工程師都經歷過 AI API 帳單突然暴增的惡夢。本文拆解帳單失控的三大結構性原因，並介紹多層預算管理與緊急煞車機制，讓企業在異常發生後 2 分鐘內自動切斷，而不是週一早上才發現。
週一早上，工程主管打開後台
帳單比上週高了十倍。
沒被駭、沒有異常登入警報、信用卡也沒被盜刷。
實際原因：某個工程師週五下班前 push 了一個新功能，裡面有個 retry loop，週末安靜地跑了 60 小時。
這不是特例。翻一下社群，你會看到一模一樣的故事一直在重演——Gemini API 金鑰外洩讓帳單兩天暴增 180 美元、AI Agent 偷偷跑了四千塊台幣的 token、「我以為是免費的，直到 Google 寄來帳單通知」。
問題不是工程師粗心。是 AI API 天生沒有「跳電」的概念。
為什麼傳統預算工具救不了 AI 帳單
傳統雲端帳單可預測：資源規格 × 使用時間，超過就停。
AI API 帳單不可預測。每一筆請求的費用取決於 prompt 長度、模型選擇、即時市場定價，三個變數都可以在毫秒內跳動。你在月初設的預算，根本不知道哪一天會被哪一個服務吃掉。
三個結構性問題讓事情變得更糟：
1. 延遲計費
API provider 通常 T+1 才能查到用量，發現異常時錢已經花了。你在 dashboard 看到的數字，是昨天的，不是現在的。
2. 單層預算不夠用
公司設了「每月 $10,000」的總額，但無法回答：行銷部用了多少？Claude 模型用了多少？那個 RAG pipeline 的 API key 是不是在跑異常？單一總額只告訴你「超了沒」，不告訴你「誰超的、從哪裡止血」。
3. 沒有真正的煞車
多數 provider 的「預算警報」只是寄一封 email。錢繼續扣，服務繼續跑，直到你手動進去暫停。
四層預算：從 CFO 到單次請求
企業級 AI 費用管理需要的不是「設一個上限」，而是四個獨立層級的預算閘：
第一層：企業總額
CFO 看的數字。整家公司當月 AI 支出不超過多少，到頂立刻全停。
第二層：部門 / 團隊
行銷、工程、客服各自的配額互相獨立。工程部燒完，不影響客服機器人繼續運作。
第三層：API Key / 使用情境
聊天機器人、內部 RAG、程式碼助手各有獨立的 key 和上限。哪個 key 異常，就只停那個 key，其他不受影響。
第四層：單次請求上限
單一請求的 token 上限。防止超長 context、防止 retry loop、防止某個模型被意外送進去十萬字的文件。
四層的關鍵設計原則：上層滿了下層一起停，下層滿了不影響兄弟層。這讓財務可以設公司上限、團隊主管管各自配額、工程師看自己的 key 用量，三個維度的責任不互相干擾。
緊急煞車：不是警報，是直接切斷
預算警報和緊急煞車的差別，就是「寄 email 通知你」和「直接讓 API 回 402 拒絕請求」的差別。
發現異常的時候，最不需要的就是一封 email，因為沒有人會在 API 失控的那 5 分鐘盯著信箱。
緊急煞車有三種觸發模式：
硬上限觸發：預算到頂，下一個請求直接拒絕，不等人工介入。
速率異常觸發：分鐘級（cbMinuteUsd）或小時級（cbHourlyUsd）支出超過閾值，自動暫停該 key。自動恢復：分鐘觸發在下一個分鐘邊界恢復（最多等 60 秒）；小時觸發在下一個小時邊界恢復（最多等 60 分鐘）。不需要人工介入，bucket 歸零就自動開放。
手動 kill switch：發現 API key 外洩？admin 一鍵讓該 key 全面失效。不需要進 provider 後台、不需要等 propagation，請求進來就回 402。
這三種機制必須在 gateway 層實作，不能放在 client 端。原因很簡單：client 出問題的時候，client 自己救不了自己。
實際運作的一天
週一 09:00，工程師 push 一個新功能，包含一個呼叫 Claude API 的背景任務。
14:30，這個任務開始異常重試，每分鐘觸發約 200 次請求。
14:32，分鐘級速率閘觸發：該 API key 自動暫停，後續請求一律回 402。
14:33，下一個分鐘邊界到，bucket 歸零，key 自動恢復。但異常呼叫還在跑，閘立刻再次觸發。
14:40，工程師收到異常回報，rollback 程式碼，retry loop 停止。此後閘不再觸發，key 在下一分鐘正常恢復。
損失：約 $3 美元。
如果沒有速率異常觸發，這個 retry loop 到週一早上才會被發現。60 小時，同樣的倍數，帳單不一樣。
這些機制，企業 AI 治理的標配
AI 工具進入企業的速度，遠快於企業建立治理框架的速度。預算失控不是偶發意外，是缺乏基礎設施的必然結果。
四層預算管理 + 緊急煞車機制，是任何規模的企業在導入 AI API 之前就應該到位的基礎設施，不是出事後才裝的補丁。
BazaarLink 企業方案提供：
- 多模型統一入口：所有 AI API 透過單一閘道，不再分散管理
- 四層預算管理：企業 → 部門 → API Key → 單次請求
- 緊急煞車：硬上限 + 速率異常 + 手動 kill switch
- 模型白名單：指定哪些模型可用、哪些不行
- 團隊拆帳報表：每個部門的用量與費用一目了然