파라미터

샘플링 파라미터는 토큰 생성 과정을 조정합니다. BazaarLink은 지원되는 파라미터를 업스트림 공급자에 전달합니다; 지원되지 않는 파라미터는 조용히 무시됩니다.

샘플링 파라미터

순수 패스스루 — 로컬 기본값 없음

샘플링 값은 범위 검증 없이 전달됩니다. 모델이 지원 범위 밖의 값을 제한하거나 무시할 수 있습니다.

temperature

number

샘플링 값은 범위 검증 없이 전달됩니다. 모델이 지원 범위 밖의 값을 제한하거나 무시할 수 있습니다.

top_p

number

핵 샘플링 확률 질량. 기본값: 1

top_k

integer

샘플링 값은 범위 검증 없이 전달됩니다. 모델이 지원 범위 밖의 값을 제한하거나 무시할 수 있습니다.

frequency_penalty

number

반복 토큰 패널티. 범위: [-2, 2]. 기본값: 0

presence_penalty

number

존재 기반 토큰 패널티. 범위: [-2, 2]. 기본값: 0

repetition_penalty

number

입력에서 토큰 반복 감소. 범위: (0, 2]. 기본값: 1

min_p

number

상위 토큰 대비 최소 확률. 범위: [0, 1]. 기본값: 0

top_a

number

최고 확률 토큰 기반 동적 top-P. 범위: [0, 1]. 기본값: 0

seed

integer

결정적 샘플링을 위한 정수 시드. 모든 모델에서 보장되지 않음

max_tokens

integer

생성할 최대 토큰 수

n

integer

생성할 완성 수. 기본값: 1

logit_bias

object

토큰 ID를 바이어스 값 [-100, 100]에 매핑하여 샘플링 전 추가. OpenAI 계열 모델에만 적용 — 아래 참고 사항 확인.

logprobs

boolean

각 출력 토큰의 로그 확률 반환. OpenAI 계열 모델에만 적용 — 아래 참고 사항 확인.

top_logprobs

integer

위치당 반환할 최고 확률 토큰 수 (logprobs: true 필요). 범위: 0–20. OpenAI 계열 모델에만 적용 — 아래 참고 사항 확인.

response_format

object

구조화된 JSON 출력 강제. 구조화된 출력 섹션 참조

structured_outputs

boolean

지원하는 제공자에서 엄격한 JSON 스키마 준수 출력을 요청. 그대로 전달

reasoning

object

제공자별 reasoning/thinking 설정. 그대로 전달

reasoning_effort

string

OpenAI o-시리즈 스타일 reasoning 강도: "low", "medium", 또는 "high". 그대로 전달

include_reasoning

boolean

true이면 message.reasoning(스트리밍에서는 delta.reasoning)에 생각 내용을 반환하고, false이면 기본으로 생각하는 모델의 생각을 끕니다(추론 섹션 참조). 따라서 생각 비용이 청구되지 않습니다. reasoning_effort, reasoning, thinking 중 아무것도 보내지 않으면 그 모델들만 기본으로 생각하고 반환하며, 다른 모델은 요청했을 때만 반환합니다

stop

string | string[]

중지 시퀀스 — 만나면 생성 중단

tools

Tool[]

모델이 호출할 수 있는 도구(함수) 목록

tool_choice

string | object

도구 사용 제어: "auto", "none", 또는 특정 도구

parallel_tool_calls

boolean

도구 제공 시 병렬 함수 호출 활성화. 기본값: true. OpenAI 계열 모델에만 적용 — 아래 참고 사항 확인.