ModelSamplingParams interface
Rappresenta un set di parametri utilizzati per controllare il comportamento di campionamento di un modello linguistico durante la generazione di testo.
Proprietà
| max_completion_tokens | Numero massimo di token consentiti nel completamento. |
| seed | Valore di inizializzazione casuale per la riproducibilità. Di default è 42. |
| temperature | Parametro di temperatura per il campionamento. Il valore predefinito è 1.0. |
| top_p | Parametro top-p per il campionamento del nucleo. Il valore predefinito è 1.0. |
Dettagli proprietà
max_completion_tokens
Numero massimo di token consentiti nel completamento.
max_completion_tokens?: number
Valore della proprietà
number
seed
Valore di inizializzazione casuale per la riproducibilità. Di default è 42.
seed?: number
Valore della proprietà
number
temperature
Parametro di temperatura per il campionamento. Il valore predefinito è 1.0.
temperature?: number
Valore della proprietà
number
top_p
Parametro top-p per il campionamento del nucleo. Il valore predefinito è 1.0.
top_p?: number
Valore della proprietà
number