章節導覽
專用參數
專用參數
取樣參數影響 token 產生過程。BazaarLink 會將支援的參數傳遞給上游 provider;不支援的參數會被静默忽略。
取樣參數
純轉發——沒有本地預設值
取樣參數會轉送且不做範圍驗證;模型可能自行限制或忽略超出支援範圍的值。
temperaturenumber
取樣參數會轉送且不做範圍驗證;模型可能自行限制或忽略超出支援範圍的值。
top_pnumber
核取樣概率質量。預設:1
top_kinteger
取樣參數會轉送且不做範圍驗證;模型可能自行限制或忽略超出支援範圍的值。
frequency_penaltynumber
懲罰重複的 token。範圍:[-2, 2]。預設:0
presence_penaltynumber
基於存在情況懲罰 token。範圍:[-2, 2]。預設:0
repetition_penaltynumber
降低輸入中 token 重複的機率。範圍:(0, 2]。預設:1
min_pnumber
相對最高機率 token 的最低入選機率。範圍:[0, 1]。預設:0
top_anumber
基於最高機率 token 的動態 Top-P。範圍:[0, 1]。預設:0
seedinteger
整數隨機種子,用於確定性取樣。部分模型不保證
max_tokensinteger
要生成的最大 token 數量
ninteger
產生的完成數量。預設:1
logit_biasobject
將 token ID 映射到偏差値 [-100, 100],在取樣前加到機率。僅限 OpenAI 系列模型 —— 見下方說明。
logprobsboolean
回傳每個輸出 token 的對數機率。僅限 OpenAI 系列模型 —— 見下方說明。
top_logprobsinteger
每個位置回傳概率最高的 N 個候選 token(需配合 logprobs: true)。範圍:0–20。僅限 OpenAI 系列模型 —— 見下方說明。
response_formatobject
強制結構化 JSON 輸出。請參閱結構化輸出章節
structured_outputsboolean
在支援的 provider 上要求嚴格符合 JSON schema 的輸出。原樣轉發
reasoningobject
Provider 專屬的 reasoning/thinking 設定。原樣轉發
reasoning_effortstring
OpenAI o 系列風格的 reasoning 強度:"low"、"medium" 或 "high"。原樣轉發
include_reasoningboolean
true 時在 message.reasoning(串流為 delta.reasoning)回傳思考內容;false 則為預設會思考的模型關閉思考(見推理章節),因此不會計思考費用。沒有帶 reasoning_effort、reasoning 或 thinking 時,只有那些模型會預設思考並回傳;其他模型要帶參數才會回傳
stopstring | string[]
停止序列 — 遇到時停止生成
toolsTool[]
模型可以呼叫的工具(函式)列表
tool_choicestring | object
控制工具使用:"auto"、"none" 或指定工具
parallel_tool_callsboolean
啟用並行工具呼叫功能。預設:true。僅限 OpenAI 系列模型 —— 見下方說明。