Sampling-Parameter bestimmen den Token-Generierungsprozess. BazaarLink leitet unterstützte Parameter an den Upstream-Anbieter weiter; nicht unterstützte Parameter werden stillschweigend ignoriert.
Reine Passthrough — keine lokalen Standardwerte
Sampling-Werte werden ohne Bereichsprüfung weitergegeben. Das Modell kann nicht unterstützte Werte begrenzen oder ignorieren.
temperature
number
Sampling-Werte werden ohne Bereichsprüfung weitergegeben. Das Modell kann nicht unterstützte Werte begrenzen oder ignorieren.
top_p
number
Nucleus-Sampling-Wahrscheinlichkeitsmasse. Standard: 1
top_k
integer
Sampling-Werte werden ohne Bereichsprüfung weitergegeben. Das Modell kann nicht unterstützte Werte begrenzen oder ignorieren.
frequency_penalty
number
Wiederholte Tokens bestrafen. Bereich: [-2, 2]. Standard: 0
presence_penalty
number
Tokens basierend auf Vorkommen bestrafen. Bereich: [-2, 2]. Standard: 0
repetition_penalty
number
Token-Wiederholung aus der Eingabe reduzieren. Bereich: (0, 2]. Standard: 1
min_p
number
Minimale Wahrscheinlichkeit relativ zum Top-Token. Bereich: [0, 1]. Standard: 0
top_a
number
Dynamisches Top-P basierend auf dem Token mit höchster Wahrscheinlichkeit. Bereich: [0, 1]. Standard: 0
seed
integer
Integer-Seed für deterministische Generierung. Nicht für alle Modelle garantiert
max_tokens
integer
Maximale Anzahl zu generierender Tokens
n
integer
Anzahl der zu generierenden Completions. Standard: 1
logit_bias
object
Token-IDs zu Bias-Werten [-100, 100] zuordnen, die vor dem Sampling addiert werden. Nur für Modelle der OpenAI-Familie — siehe Hinweis unten.
logprobs
boolean
Log-Wahrscheinlichkeiten jedes Ausgabe-Tokens zurückgeben. Nur für Modelle der OpenAI-Familie — siehe Hinweis unten.
top_logprobs
integer
Anzahl der wahrscheinlichsten Tokens pro Position (erfordert logprobs: true). Bereich: 0–20. Nur für Modelle der OpenAI-Familie — siehe Hinweis unten.
response_format
object
Strukturierte JSON-Ausgabe erzwingen. Siehe Abschnitt Structured Output
structured_outputs
boolean
Fordert striktes, JSON-Schema-konformes Output bei Providern an, die dies unterstützen. Wird unverändert weitergegeben
reasoning
object
Provider-spezifische Reasoning-/Thinking-Konfiguration. Wird unverändert weitergegeben
reasoning_effort
string
OpenAI o-Serie Reasoning-Aufwand: "low", "medium" oder "high". Wird unverändert weitergegeben
include_reasoning
boolean
true liefert den Denkinhalt in message.reasoning (beim Streaming in delta.reasoning); false schaltet das Denken bei den Modellen ab, die standardmäßig denken (siehe Abschnitt Reasoning), sodass kein Denken berechnet wird. Ohne reasoning_effort, reasoning oder thinking denken und liefern nur diese Modelle standardmäßig; andere Modelle nur auf Anfrage
stop
string | string[]
Stoppsequenzen — Generierung stoppt bei Auftreten
tools
Tool[]
Liste der Tools (Funktionen), die das Modell aufrufen kann
tool_choice
string | object
Steuert die Tool-Nutzung: "auto", "none" oder bestimmtes Tool
parallel_tool_calls
boolean
Parallele Funktionsaufrufe aktivieren, wenn Tools bereitgestellt werden. Standard: true. Nur für Modelle der OpenAI-Familie — siehe Hinweis unten.
