ModelSamplingParams interface

Mewakili sekumpulan parameter yang digunakan untuk mengontrol perilaku pengambilan sampel model bahasa selama pembuatan teks.

Properti

max_completion_tokens

Jumlah maksimum token yang diizinkan dalam penyelesaian.

seed

Benih acak untuk reproduksi. Default ke 42.

temperature

Parameter suhu untuk pengambilan sampel. Default ke 1.0.

top_p

Parameter top-p untuk pengambilan sampel nukleus. Default ke 1.0.

Detail Properti

max_completion_tokens

Jumlah maksimum token yang diizinkan dalam penyelesaian.

max_completion_tokens?: number

Nilai Properti

number

seed

Benih acak untuk reproduksi. Default ke 42.

seed?: number

Nilai Properti

number

temperature

Parameter suhu untuk pengambilan sampel. Default ke 1.0.

temperature?: number

Nilai Properti

number

top_p

Parameter top-p untuk pengambilan sampel nukleus. Default ke 1.0.

top_p?: number

Nilai Properti

number