ModelSamplingParams interface

Vertegenwoordigt een set parameters die worden gebruikt voor het bepalen van het steekproefgedrag van een taalmodel tijdens het genereren van tekst.

Eigenschappen

max_completion_tokens

Het maximum aantal tokens dat is toegestaan in de voltooiing.

seed

Het willekeurige zaad voor reproduceerbaarheid. Standaard staat het op 42.

temperature

De temperatuurparameter voor steekproeven. De standaardwaarde is 1.0.

top_p

De top-p-parameter voor kernsampling. De standaardwaarde is 1.0.

Eigenschapdetails

max_completion_tokens

Het maximum aantal tokens dat is toegestaan in de voltooiing.

max_completion_tokens?: number

Waarde van eigenschap

number

seed

Het willekeurige zaad voor reproduceerbaarheid. Standaard staat het op 42.

seed?: number

Waarde van eigenschap

number

temperature

De temperatuurparameter voor steekproeven. De standaardwaarde is 1.0.

temperature?: number

Waarde van eigenschap

number

top_p

De top-p-parameter voor kernsampling. De standaardwaarde is 1.0.

top_p?: number

Waarde van eigenschap

number