ModelSamplingParams interface

Representa um conjunto de parâmetros usados para controlar o comportamento de amostragem de um modelo de linguagem durante a geração de texto.

Propriedades

max_completion_tokens	O número máximo de fichas permitido na conclusão.
seed	A semente aleatória da reprodutibilidade. Por defeito, é 42.
temperature	O parâmetro de temperatura para amostragem. O padrão é 1.0.
top_p	O parâmetro top-p para amostragem de núcleos. O padrão é 1.0.

O número máximo de fichas permitido na conclusão.

max_completion_tokens?: number

number

A semente aleatória da reprodutibilidade. Por defeito, é 42.

seed?: number

number

O parâmetro de temperatura para amostragem. O padrão é 1.0.

temperature?: number

number

O parâmetro top-p para amostragem de núcleos. O padrão é 1.0.

top_p?: number

number