Параметры

Параметры выборки определяют процесс генерации токена. BazaarLink передает поддерживаемые параметры вышестоящему поставщику; неподдерживаемые параметры игнорируются.

Параметры выборки

Pure passthrough — без локальных значений по умолчанию

Параметры семплирования передаются без проверки диапазона. Модель может ограничить или игнорировать значения вне поддерживаемого диапазона.

temperature

number

top_p

number

Масса вероятности выборки ядра. По умолчанию: 1

top_k

integer

frequency_penalty

number

Наказание повторяющихся токенов. Диапазон: [-2, 2]. По умолчанию: 0

presence_penalty

number

Назначать штрафы за токены в зависимости от присутствия. Диапазон: [-2, 2]. По умолчанию: 0

repetition_penalty

number

Уменьшить повторение входных токенов. Диапазон: (0, 2]. По умолчанию: 1.

min_p

number

Минимальная вероятность относительно верхнего токена. Диапазон: [0, 1]. По умолчанию: 0

top_a

number

Динамический топ-P на основе токена с наибольшей вероятностью. Диапазон: [0, 1]. По умолчанию: 0

seed

integer

Целочисленное начальное значение для детерминированной выборки. Не гарантируется для всех моделей

max_tokens

integer

Максимальное количество токенов для генерации

n

integer

Количество завершений, которые нужно сгенерировать. По умолчанию: 1

logit_bias

object

Сопоставьте идентификаторы токенов со значениями смещения [-100, 100], добавленными перед выборкой. Только модели семейства OpenAI — см. примечание ниже.

logprobs

boolean

Вернуть вероятности журнала для каждого выходного токена. Только модели семейства OpenAI — см. примечание ниже.

top_logprobs

integer

Количество наиболее вероятных токенов для каждой позиции (требуется logprobs: true). Диапазон: 0–20. Только модели семейства OpenAI — см. примечание ниже.

response_format

object

Force структурированный вывод JSON. См. раздел «Структурированный вывод».

structured_outputs

boolean

Запросите строгий вывод, соответствующий схеме JSON, у поставщиков, которые его поддерживают. Прошло как есть

reasoning

object

Конфигурация reasoning/thinking, специфичная для поставщика. Прошло как есть

reasoning_effort

string

OpenAI Усилие рассуждения в стиле o-серии: «низкое», «среднее» или «высокое». Прошло как есть

include_reasoning

boolean

true возвращает текст рассуждений в message.reasoning (при потоковой передаче — в delta.reasoning); false отключает рассуждения у моделей, которые рассуждают по умолчанию (см. раздел о рассуждениях), поэтому рассуждения не оплачиваются. Без reasoning_effort, reasoning и thinking по умолчанию рассуждают и возвращают текст только эти модели; остальные — только по запросу

stop

string | string[]

Stop-последовательности — генерация останавливается при обнаружении

tools

Tool[]

Список инструментов (функций), которые может вызывать модель

tool_choice

string | object

Использование инструмента управления: «авто», «нет» или конкретный инструмент.

parallel_tool_calls

boolean

Включить параллельный вызов функций при наличии инструментов. По умолчанию: правда. Только модели семейства OpenAI — см. примечание ниже.