ModelSamplingParams interface
Представляет набор параметров, используемых для управления поведением выборки языковой модели во время создания текста.
Свойства
| max_completion_tokens | Максимальное число маркеров, разрешенных в завершении. |
| seed | Случайное начальное значение для воспроизведения. По умолчанию установлен 42. |
| temperature | Параметр температуры для выборки. По умолчанию это — 1.0. |
| top_p | Параметр top-p для выборки ядра. По умолчанию это — 1.0. |
Сведения о свойстве
max_completion_tokens
Максимальное число маркеров, разрешенных в завершении.
max_completion_tokens?: numberЗначение свойства
number
seed
Случайное начальное значение для воспроизведения. По умолчанию установлен 42.
seed?: numberЗначение свойства
number
temperature
Параметр температуры для выборки. По умолчанию это — 1.0.
temperature?: numberЗначение свойства
number
top_p
Параметр top-p для выборки ядра. По умолчанию это — 1.0.
top_p?: numberЗначение свойства
number