ModelSamplingParams interface
Representa un conjunto de parámetros usados para controlar el comportamiento de muestreo de un modelo de lenguaje durante la generación de texto.
Propiedades
| max_completion_tokens | Número máximo de tokens permitidos en la finalización. |
| seed | Inicialización aleatoria para la reproducibilidad. Por defecto es 42. |
| temperature | Parámetro de temperatura para el muestreo. Su valor predeterminado es 1.0. |
| top_p | Parámetro top-p para el muestreo de núcleos. Su valor predeterminado es 1.0. |
Detalles de las propiedades
max_completion_tokens
Número máximo de tokens permitidos en la finalización.
max_completion_tokens?: numberValor de propiedad
number
seed
Inicialización aleatoria para la reproducibilidad. Por defecto es 42.
seed?: numberValor de propiedad
number
temperature
Parámetro de temperatura para el muestreo. Su valor predeterminado es 1.0.
temperature?: numberValor de propiedad
number
top_p
Parámetro top-p para el muestreo de núcleos. Su valor predeterminado es 1.0.
top_p?: numberValor de propiedad
number