ModelSamplingParams interface
Representa un conjunto de parámetros usados para controlar el comportamiento de muestreo de un modelo de lenguaje durante la generación de texto.
Propiedades
| max_completion_tokens | Número máximo de tokens permitidos en la finalización. |
| seed | Inicialización aleatoria para la reproducibilidad. |
| temperature | Parámetro de temperatura para el muestreo. |
| top_p | Parámetro top-p para el muestreo de núcleos. |
Detalles de las propiedades
max_completion_tokens
Número máximo de tokens permitidos en la finalización.
max_completion_tokens: numberValor de propiedad
number
seed
Inicialización aleatoria para la reproducibilidad.
seed: numberValor de propiedad
number
temperature
Parámetro de temperatura para el muestreo.
temperature: numberValor de propiedad
number
top_p
Parámetro top-p para el muestreo de núcleos.
top_p: numberValor de propiedad
number
