ModelSamplingParams interface
텍스트를 생성하는 동안 언어 모델의 샘플링 동작을 제어하는 데 사용되는 매개 변수 집합을 나타냅니다.
속성
| max_completion_tokens | 완료 시 허용되는 최대 토큰 수입니다. |
| seed | 재현성을 위한 임의 시드입니다. |
| temperature | 샘플링을 위한 온도 매개 변수입니다. |
| top_p | 핵 샘플링을 위한 top-p 매개 변수입니다. |
속성 세부 정보
max_completion_tokens
완료 시 허용되는 최대 토큰 수입니다.
max_completion_tokens: number속성 값
number
seed
재현성을 위한 임의 시드입니다.
seed: number속성 값
number
temperature
샘플링을 위한 온도 매개 변수입니다.
temperature: number속성 값
number
top_p
핵 샘플링을 위한 top-p 매개 변수입니다.
top_p: number속성 값
number
