같은 모델에 여러 업스트림 소스를 설정할 수 있습니다
각 소스의 상태를 개별적으로 확인합니다. 다른 사용 가능한 소스가 있으면 요청을 전환할 수 있습니다.
신뢰성:
요청 처리 방식
업스트림 소스에 문제가 있으면 요청이 다른 사용 가능한 소스를 시도할 수 있습니다. 사용 가능한 소스가 없으면 오류가 반환됩니다.
요청은 어떻게 소스를 전환하나요?
각 요청에서 소스 상태를 확인하며, 다른 사용 가능한 소스가 있을 때 전환을 시도합니다.
실제 고객이 실행한 장시간 작업
과거 기록에는 최대 60분의 텍스트 스트리밍과 최대 9.8시간의 영상 작업이 포함되어 있습니다.
60분
실측 최장 텍스트 스트리밍
67,462 tokens 기록
9.8시간
실측 최장 영상 작업
비동기 생성 기록
플랫폼의 과거 실측 데이터이며, 서비스 보장이 아닙니다.
장시간 작업에는 api.bazaarlink.ai를 사용할 수 있습니다. 웹사이트와 별도로 배포된 API 진입점입니다.
작동 방식
네 가지 작동 방식을 통해 여러 상황에서 요청이 처리되는 방법을 설명합니다.
오류가 반복되는 소스는 일시적으로 건너뛸 수 있습니다
다른 사용 가능한 소스가 있으면 요청을 전환할 수 있습니다. 없으면 오류를 반환합니다.
재시도는 어떤 내용을 보기 전에 이루어집니다
모델의 응답을 확인한 뒤 콘텐츠 스트리밍을 시작합니다. 스트리밍이 시작된 후에는 다른 소스에서 이어서 응답하지 않습니다.
실패 기록은 사용량 로그에 남습니다
사용량 로그에서 재시도 여부와 오류 코드를 확인할 수 있습니다. 로그에는 실제 사용한 소스 이름이 표시되지 않습니다.
내용이 시작된 이후에 연결이 끊긴 경우
사용 가능한 소스가 없으면 명확한 오류가 반환되며, 불완전한 응답이 표시되지 않습니다. 해당 요청에는 요금이 청구되지 않습니다. 이는 작동 방식에 대한 설명이며 가용성을 보장하지 않습니다. 계약에 SLA가 있다면 계약 내용이 적용됩니다.
소스 전환과 회로 차단 방식 알아보기
소스 상태 확인 방법, 회로 차단 임계값, 사용량 로그 항목의 의미는 문서에서 확인할 수 있습니다.
직접 트래픽을 연결해 한 번 테스트해 보세요
5분이면 연결할 수 있습니다. 소스에 문제가 생기면 요청이 다른 사용 가능한 소스로 전환될 수 있습니다.
요청이 다른 소스를 시도하는 방식 보기