ModelSamplingParams interface
Reprezentuje zestaw parametrów używanych do kontrolowania zachowania próbkowania modelu językowego podczas generowania tekstu.
Właściwości
| max_completion_tokens | Maksymalna liczba tokenów dozwolonych w zakończeniu. |
| seed | Losowe inicjatory do odtworzenia. |
| temperature | Parametr temperatury do próbkowania. |
| top_p | Parametr top-p próbkowania jądra. |
Szczegóły właściwości
max_completion_tokens
Maksymalna liczba tokenów dozwolonych w zakończeniu.
max_completion_tokens: numberWartość właściwości
number
seed
Losowe inicjatory do odtworzenia.
seed: numberWartość właściwości
number
temperature
Parametr temperatury do próbkowania.
temperature: numberWartość właściwości
number
top_p
Parametr top-p próbkowania jądra.
top_p: numberWartość właściwości
number
