ModelSamplingParams interface

Representerar en uppsättning parametrar som används för att styra samplingsbeteendet för en språkmodell under textgenereringen.

Egenskaper

max_completion_tokens	Det maximala antalet token som tillåts i slutförandet.
seed	Det slumpmässiga fröet för reproducerbarhet. Standardinställning till 42.
temperature	Temperaturparametern för sampling. Standardvärdet är 1.0.
top_p	Parametern top-p för kärnsampling. Standardvärdet är 1.0.

Det maximala antalet token som tillåts i slutförandet.

max_completion_tokens?: number

number

Det slumpmässiga fröet för reproducerbarhet. Standardinställning till 42.

seed?: number

number

Temperaturparametern för sampling. Standardvärdet är 1.0.

temperature?: number

number

Parametern top-p för kärnsampling. Standardvärdet är 1.0.

top_p?: number

number