BazaarLinkBazaarLink
ログイン

信頼性:
リクエストの処理方法

アップストリームに問題がある場合、リクエストは別の利用可能なソースを試すことがあります。利用可能なソースがなければ、エラーが返されます。

別のソースを試すリクエストの動作を見る 公開検証結果を見る
このリクエストで起きたこと合計 5.0s
ソース10
応答なし
ソース2200
引き継ぎ
生成
3077 tokens · 39.4 tok/s

例:1つのソースに問題が起きた後、リクエストが別の利用可能なソースに切り替わります。

リクエストはどのようにソースを切り替えるか

各リクエストでソースの状態を確認し、別の利用可能なソースがある場合に切り替えを試みます。

ソースの状態
あなたのリクエスト
主なソースは利用可能?
ソース1(優先)利用不可
ヘルスチェック不合格、スキップ
ソース2(代替)
利用可能な場合にリクエストを処理
応答の状態

主なソースがリクエストを処理できない場合、別の利用可能なソースへの切り替えを試みます。利用可能なソースがない場合はエラーを返します。

実際の顧客が実行した長時間タスク

過去の記録には、最長60分のテキストストリームと最長9.8時間の動画タスクが含まれます。

60 分
実測された最長のテキストストリーミング
67,462 tokensの記録
9.8 時間
実測された最長の動画タスク
非同期生成の記録

プラットフォームの過去の実測データであり、サービス保証ではありません。

長時間タスクではapi.bazaarlink.aiを使用できます。ウェブサイトとは別にデプロイされたAPIエンドポイントです。

仕組み

4つの仕組みについて、さまざまな状況でのリクエスト処理を説明します。

同じモデルに複数の上流ソースを設定できます

各ソースの状態を個別に監視します。別の利用可能なソースがあれば、リクエストを切り替えることがあります。

エラーが続くソースは一時的にスキップされます

別の利用可能なソースがあれば切り替えることがあります。ない場合はエラーを返します。

リトライは、何らかの内容が表示される前に行われる

モデルが応答していることを確認してから内容の配信を始めます。配信開始後、別のソースに切り替えて回答を続けることはありません。

失敗は利用ログに残る

リトライの有無とエラーコードは利用ログで確認できます。ログに実際のソース名は表示されません。

コンテンツの送出開始後に接続が切れた場合

利用可能なソースがない場合、回答が途中で切れたように見える状態ではなく、明確なエラーを返します。そのリクエストには課金しません。これは仕組みの説明であり、可用性を保証するものではありません。契約にSLAがある場合は契約内容が適用されます。

ソースの切り替えとサーキットブレーカーの仕組みを見る

ソース状態の確認方法、サーキットブレーカーのしきい値、利用ログの各項目の意味はドキュメントをご覧ください。

ソースの動作について読む

あなた自身のトラフィックで接続して試す

5分で接続できます。ソースに問題がある場合、リクエストは別の利用可能なソースへ切り替わることがあります。

別のソースを試すリクエストの動作を見る
サポート
サポート
こんにちは。どのようなご用件でしょうか?
メッセージをお送りください。担当者より返信します。