ModelSamplingParams interface
Stellt eine Reihe von Parametern dar, die zum Steuern des Samplingverhaltens eines Sprachmodells während der Textgenerierung verwendet werden.
Eigenschaften
| max_completion_tokens | Die maximale Anzahl von Token, die im Abschluss zulässig sind. |
| seed | Der zufällige Samen zur Reproduzierbarkeit. Standardeinstellung 42. |
| temperature | Der Temperaturparameter für die Probenahme. Der Standardwert ist 1.0. |
| top_p | Der Top-p-Parameter für die Kernsampling. Der Standardwert ist 1.0. |
Details zur Eigenschaft
max_completion_tokens
Die maximale Anzahl von Token, die im Abschluss zulässig sind.
max_completion_tokens?: numberEigenschaftswert
number
seed
Der zufällige Samen zur Reproduzierbarkeit. Standardeinstellung 42.
seed?: numberEigenschaftswert
number
temperature
Der Temperaturparameter für die Probenahme. Der Standardwert ist 1.0.
temperature?: numberEigenschaftswert
number
top_p
Der Top-p-Parameter für die Kernsampling. Der Standardwert ist 1.0.
top_p?: numberEigenschaftswert
number