ModelSamplingParams interface

Représente un ensemble de paramètres utilisés pour contrôler le comportement d’échantillonnage d’un modèle de langage pendant la génération de texte.

Propriétés

max_completion_tokens	Nombre maximal de jetons autorisés dans la saisie semi-automatique.
seed	Valeur initiale aléatoire pour la reproductibilité. Par défaut, c’est 42.
temperature	Paramètre de température pour l’échantillonnage. La valeur par défaut est 1.0.
top_p	Paramètre top-p pour l’échantillonnage du noyau. La valeur par défaut est 1.0.

Nombre maximal de jetons autorisés dans la saisie semi-automatique.

max_completion_tokens?: number

number

Valeur initiale aléatoire pour la reproductibilité. Par défaut, c’est 42.

seed?: number

number

Paramètre de température pour l’échantillonnage. La valeur par défaut est 1.0.

temperature?: number

number

Paramètre top-p pour l’échantillonnage du noyau. La valeur par défaut est 1.0.

top_p?: number

number