BazaarLinkBazaarLink
登入

穩定性:
請求如何處理

上游來源發生問題時,請求可以改試其他可用來源;若沒有來源可用,請求會回傳錯誤。

了解請求如何嘗試其他來源 看公開檢測結果
這次請求發生了什麼總計 5.0s
來源 10
無回應
來源 2200
接手
生成
3077 tokens · 39.4 tok/s

範例:一個來源發生問題後,請求改由另一個可用來源處理。

一個請求如何切換來源

每個請求都會檢查來源狀態;只有在找到可用來源時才會切換。

來源狀態
你的請求
主要來源是否可用?
來源 1(主要)無法使用
狀態檢查未通過,略過
來源 2(備用)
找到可用來源時,請求可由此處理
回應狀態

主要來源無法處理時,系統可嘗試切換至其他可用來源;若沒有可用來源,請求會回傳錯誤。

真實客戶跑過的長任務

歷史紀錄包含最長 60 分鐘的文字串流與最長 9.8 小時的影片任務。

60 分鐘
實測最長文字串流
67,462 tokens,歷史紀錄
9.8 小時
實測最長影片任務
非同步生成,歷史紀錄

平台歷史實測資料,非服務承諾。

長時間任務可使用 api.bazaarlink.ai;這是與網站分開部署的 API 入口。

怎麼運作

四個機制事實,說明請求在不同狀況下的處理方式。

同一個模型可配置多個上游來源

各來源分別監測狀態;有其他可用來源時,請求可能切換過去。

來源連續出錯時,熔斷機制會暫時略過該來源

若有其他可用來源,請求可能切換至該來源;若沒有,請求會回傳錯誤。

重試發生在你看到任何內容之前

系統會先確認模型有回應,再開始傳送內容;串流開始後不會改由其他來源繼續。

失敗會留在你的用量紀錄裡

你可以看到是否曾重試及失敗代碼;用量紀錄不會顯示實際使用的來源名稱。

如果連線是在內容開始之後才斷

如果沒有可用來源,系統會顯示明確的錯誤提示,而不是不完整的回答;這種請求不會收費。此處說明的是處理機制,不構成可用性保證;合約中如有 SLA,依合約為準。

想了解來源切換與熔斷機制?

來源狀態如何判定、熔斷門檻如何計算、用量紀錄欄位代表什麼,都整理在文件中。

閱讀來源處理方式

接上你自己的流量測一次

五分鐘接好;來源發生問題時,請求可能切換至其他可用來源。

了解請求如何嘗試其他來源
客服
客服
您好!有什麼可以協助?
請留下訊息,我們會盡快回覆。