Для одной модели может быть доступно несколько источников
Состояние источников отслеживается отдельно; при проблеме может быть предпринята попытка переключения на другой доступный источник.
Надёжность:
Как обрабатываются запросы
При проблеме с upstream-источником запрос может попробовать другой доступный источник. Если доступных источников нет, запрос вернёт ошибку.
Как выбирается источник для запроса
Состояние основного и резервного источников отслеживается отдельно; переключение может быть предпринято с учётом доступности во время обработки запроса.
Длительные задачи, реально выполненные клиентами
В прошлых записях зафиксированы текстовые потоки до 60 минут и видеозадачи до 9.8 часа; это исторические примеры.
60 минут
Самый длинный зафиксированный текстовый стриминг
Историческая запись: 67,462 tokens
9.8 часов
Самая длинная зафиксированная видеозадача
Историческая запись об асинхронной генерации
Исторические данные платформы, а не обязательство по качеству обслуживания.
api.bazaarlink.ai — точка входа API, развёрнутая отдельно от сайта.
Как это работает
Эти четыре пункта описывают обработку запросов.
Состояние источника учитывается при обработке запроса
Если доступных источников нет, запрос может завершиться ошибкой.
Переключение источника зависит от состояния запроса
После начала передачи ответа запрос не переключается на другой источник посреди обработки; при этом запрос всё равно может завершиться ошибкой.
Ошибки могут отображаться в истории использования
В истории могут отображаться попытки и код ошибки, но без указания источника.
Если соединение обрывается уже после начала передачи содержимого
Если доступных источников нет, вы можете получить сообщение об ошибке. Здесь описан механизм обработки, а не гарантия доступности или времени ответа.
Подробнее о переключении источников
В документации описаны выбор источника и сведения, отображаемые в истории использования.
Подключите свой трафик и проверьте сами
Настройка может занять около 5 минут. При проблеме с источником запрос может переключиться на другой доступный источник.
Узнать, как запрос может попробовать другой источник