ModelSamplingParams interface

Rappresenta un set di parametri utilizzati per controllare il comportamento di campionamento di un modello linguistico durante la generazione di testo.

Proprietà

max_completion_tokens

Numero massimo di token consentiti nel completamento.

seed

Valore di inizializzazione casuale per la riproducibilità. Di default è 42.

temperature

Parametro di temperatura per il campionamento. Il valore predefinito è 1.0.

top_p

Parametro top-p per il campionamento del nucleo. Il valore predefinito è 1.0.

Dettagli proprietà

max_completion_tokens

Numero massimo di token consentiti nel completamento.

max_completion_tokens?: number

Valore della proprietà

number

seed

Valore di inizializzazione casuale per la riproducibilità. Di default è 42.

seed?: number

Valore della proprietà

number

temperature

Parametro di temperatura per il campionamento. Il valore predefinito è 1.0.

temperature?: number

Valore della proprietà

number

top_p

Parametro top-p per il campionamento del nucleo. Il valore predefinito è 1.0.

top_p?: number

Valore della proprietà

number