AI API 閘道是什麼？閘道、路由器、中轉站三者差在哪，台灣團隊該接哪一種（2026）
搜「API Gateway」會撈到 Kong、APISIX 那類企業 API 管理平台，跟你要的 AI 閘道是兩個市場。這篇把 AI API 閘道（AI Gateway／LLM Gateway）、模型路由器、中轉站三個常被混用的詞拆開，給一張六項判準的對照表——並把我們自己放進每一格，含做不到的。
先講一個會讓你白花一小時的事：在 Google 搜「API Gateway」，前十名幾乎全是企業 API 管理平台——Kong、APISIX、各家雲的 API Gateway 服務、系統整合商的解決方案頁。它們管的是你自己對外提供的 API：流量控管、身分驗證、微服務路由。
那不是你要的。你要的是管你打出去給模型的 API的那一層。這兩件事共用「gateway」這個字，但是兩個不相干的市場。這篇只講後者。
三個詞，三件不同的事
在「管你打出去的模型 API」這個範圍裡，市面上有三種東西常被混著叫：
AI API 閘道（AI Gateway／LLM Gateway）
一層放在你的程式和各家模型供應商之間的服務。你的程式只認一個端點、一種請求格式；閘道負責把請求送到正確的供應商、在供應商出問題時換一條路、發金鑰、記用量、擋違規內容。它的價值是「你不用自己維護這一層」。 可以自架（LiteLLM 是最常見的開源選擇），也可以用託管的。
模型路由器（Model Router）
嚴格說是閘道裡的一個功能，但有些產品把它獨立成主打：根據每一筆請求的內容，自動決定送去哪個模型——簡單問題送便宜的，複雜問題送貴的。重點在「選模型」的演算法，而不是金鑰、容錯、計費這些基礎設施。
如果你已經知道要用哪個模型，路由器對你的價值接近零；如果你的流量混雜、想省錢又不想自己分類，它才有意義。
中轉站（Relay）
這個詞來自中文圈。中轉站的本質是「轉售額度」：站方用自己的方式取得各家模型的存取，再以較低價格賣給你。它通常也給你一個 OpenAI 相容端點，外觀跟閘道很像。
差別在你付錢給誰、以及你能不能驗證你拿到的東西是真的。閘道通常讓你看得到（甚至用你自己的）上游帳號；中轉站的上游是黑箱，你買的是「站方說這是某某模型」。
這不是說中轉站一定有問題。但「無法驗證」本身就是一個成本，下面會講怎麼驗。
六項判準：拿去問任何一家
不管對方自稱閘道、路由器還是中轉站，這六個問題問下去，答案就是它的真實類別。我們把自己的答案也填進去了，包括做不到的。
| 判準 | 為什麼重要 | BazaarLink 的答案 |
|---|---|---|
| 1. 錢付給誰？ | 付給模型供應商（透過閘道代購）跟付給一個轉售者，風險結構不同 | 平台代購的模型：付給我們，價格以各家官方牌價為準；自帶金鑰（BYOK）：付給你自己的上游，我們不加價 |
| 2. 能不能用自己的上游帳號？ | 能，代表這一層是「路由」不是「轉售」 | 能。接上你的金鑰後，該供應商的請求走你自己的帳號 |
| 3. 上游掛了怎麼辦？ | 是重新發送？還是同一筆請求接手完成？有沒有告訴你發生過？ | 同一個模型接不只一條上游路由；主路由健康判定不通過時，同一筆請求改走備援完成。重試發生在你看到任何內容之前；失敗與重試會留在你的用量紀錄裡，不靜默吞掉 |
| 4. 內容開始之後才斷線呢？ | 這是最容易被「看起來完整」的回答騙過的情況 | 不會幫你換供應商重接。你看到的是明確的錯誤，不是斷在半路的回答；這種請求不收費。這是機制說明，不是可用性保證 |
| 5. 我怎麼確認拿到的是真的那個模型？ | 任何端點都能回答「我是 GPT」；自稱不是證據 | 我們自己不當裁判——中轉站檢測工具對任何端點送 84 項標準檢測，比對行為指紋，0 採信商家自稱，證據不夠就寫「不斷定」。你可以拿它來測我們 |
| 6. 我的請求經過誰？ | 合規紅線 | 經過我們的機器。如果你的規範是「不得經第三方轉送」，我們不是選項，該自架 |
第六格是我們做不到的事，第四格是我們刻意不做的事。一張只有勾勾的比較表，通常是拿來賣東西的，不是拿來選東西的。
台灣團隊實際會遇到的三種情境
情境一：兩三個工程師，剛從直接呼叫 OpenAI SDK 升上來
你的痛點是每個人一把金鑰、月底帳單散落、沒人知道哪個 agent 花了多少。
你需要的是閘道的金鑰管理與用量歸戶，不是路由器。自架 LiteLLM 可以做到，但那台 proxy 從此在你的關鍵路徑上——我們在這篇把自架真正要付的成本攤開了。人少的團隊，這份維運工作通常沒有人接。
情境二：已經有企業版合約或既有額度要消化
你有 OpenAI 或 Google 的合約額度，但也想用其他家的模型，不想在程式裡維護三套 SDK。
這是**自帶金鑰（BYOK）**最典型的用法：把合約帳號接進來，該供應商的請求走你自己的帳號、不加價；其他模型走平台。程式端只有一個 base URL。
要注意一件事：自帶金鑰的請求，我們記錄的費用是 0（錢你付給上游），所以你不能用平台的金額上限去卡自帶金鑰的花費，能用的是每分鐘請求數上限和你自己上游後台的額度。這個限制我們在 BYOK 頁面和文章裡都寫了，不繞過去。
情境三：有合規要求，請求不能離開機房
自架。 這一種情況任何託管閘道都不該說服你，包括我們。LiteLLM 是合理的起點，安裝步驟在這裡。
怎麼驗一個閘道或中轉站是不是誠實的
前面第五項判準說「自稱不是證據」，這裡講怎麼拿到證據。原理只有一句：不問它是誰，讓它做事，再拿它做事的方式跟已知模型比。
我們的中轉站檢測是這樣做的，分五站，每一站都可以說「證據不夠，不斷定」：
- 出題實測——最多 86 道標準題，先確認題目真的答完了。缺題不是資料少，是剩下的證據可能剛好偏向同一邊
- 認出哪一家——比對回答的風格與習慣，不是它自稱什麼。遇到「自稱一家、行為像另一家」，判自稱是口誤，採信行為
- 認出哪一款——同一家裡是哪個型號。所謂「降智」多半發生在這層：家族沒換，換成同家更便宜的小號
- 雙胞胎複驗——對高度相似的近親型號另出一組題重新採樣，因為上一站對它們幾乎沒有鑑別力
- 對答案——實測結果 vs 商家宣稱，八種可能結論，包含「模稜兩可」
拿一把可撤銷的低額度測試金鑰，貼上任何端點的 base URL 就能跑。包括我們的。 一個不敢讓你測的閘道，第五項判準就已經有答案了。
一句話版本
- 搜到 Kong、APISIX、雲端 API Gateway → 那是管你自己 API 的，關掉
- 你要的是管「打出去給模型的 API」那一層 → AI 閘道
- 對方主打「自動幫你選模型」→ 路由器，只有在你不確定要用哪個模型時才有價值
- 對方便宜但你付錢給站方、看不到上游 → 中轉站，先拿檢測工具跑一次再決定
- 你的規範是請求不能離開機房 → 自架，不要被任何人說服
如果你要的是閘道，而且不想自己跑：接上第一把金鑰大約五分鐘，自帶金鑰（BYOK）；先看容錯機制實際怎麼運作的話在上游容錯。
FAQ
AI API 閘道和 API Gateway 有什麼不同？
API Gateway（Kong、APISIX、各雲端的 API Gateway 服務）管的是你自己對外提供的 API：流量控管、身分驗證、微服務路由。AI API 閘道（AI Gateway／LLM Gateway）管的是你打出去給模型供應商的 API：統一端點、換供應商不改程式、失敗換路、發金鑰、記用量。兩者共用「gateway」這個字，但是兩個不相干的市場，搜尋時很容易混在一起。
AI 閘道、模型路由器、中轉站差在哪？
閘道是放在程式與各家模型之間的基礎設施層，負責端點統一、容錯、金鑰、用量。路由器嚴格說是閘道的一個功能——根據每筆請求自動選模型——有些產品把它獨立主打。中轉站來自中文圈，本質是轉售額度：站方取得存取後低價賣你，上游是黑箱，你買的是「站方說這是某模型」。三者最大的分野是錢付給誰、能不能用自己的上游帳號、以及能不能驗證拿到的模型是真的。
怎麼判斷一個中轉站或閘道給的模型是真的？
不要問它是誰，讓它做事。對端點送一組標準題，拿回答的行為特徵跟已知模型的基準比對，先認家族再認型號，對高度相似的近親型號另出一組題複驗，最後拿實測結果跟商家宣稱對答案。自稱最容易偽造，不能當證據。BazaarLink 的中轉站檢測工具就是這樣做的，用一把可撤銷的低額度金鑰就能對任何端點跑，包括對我們自己。
什麼情況不該用託管的 AI 閘道？
三種：請求內容不能離開你的機房（合規紅線，託管閘道無論怎麼加密都會經過別人的機器）；你要改閘道的行為，例如自訂路由邏輯或插自己的中介層；你已經有 DevOps 能量而且這台 proxy 是既有系統的一部分。這三種請自架，LiteLLM 是常見起點。
用 BYOK 自帶金鑰，跟直接用閘道代購的模型，差別是什麼？
付錢對象不同。自帶金鑰的請求用你自己的上游帳號打出去、帳算在你的上游、平台不加價；平台代購的模型付給平台，價格以各家官方牌價為準。兩者可混用，同一個 base URL。要注意自帶金鑰的請求平台記錄的費用是 0，所以不能用平台的金額上限去管控自帶金鑰的花費，能用的是每分鐘請求數上限與上游後台的額度。
上游掛掉的時候，閘道是重新發送還是接手？
這是問任何閘道都該問的問題。BazaarLink 的做法是：同一個模型接不只一條上游路由，主路由健康判定不通過時，同一筆請求改走備援完成，不是重新開始；重試發生在你看到任何內容之前，已經開始收到的回答不會半路換供應商。如果連線是在內容開始之後才斷，不會幫你換供應商重接，你會看到明確錯誤，這種請求不收費。這是機制說明，不是可用性保證。