ModelSamplingParams interface

Představuje sadu parametrů sloužících k řízení chování vzorkování jazykového modelu během generování textu.

Vlastnosti

max_completion_tokens	Maximální počet tokenů povolených v dokončení
seed	Náhodné počáteční hodnoty pro reprodukovatelnost. Výchozí nastavení je 42.
temperature	Parametr teploty pro vzorkování. Výchozí hodnota je 1.0.
top_p	Parametr top-p pro vzorkování vzorků. Výchozí hodnota je 1.0.

Maximální počet tokenů povolených v dokončení

max_completion_tokens?: number

number

Náhodné počáteční hodnoty pro reprodukovatelnost. Výchozí nastavení je 42.

seed?: number

number

Parametr teploty pro vzorkování. Výchozí hodnota je 1.0.

temperature?: number

number

Parametr top-p pro vzorkování vzorků. Výchozí hodnota je 1.0.

top_p?: number

number