4.2 일관성 확보를 위한 모델 하이퍼파라미터(Hyperparameter) 정밀 제어
- 4.2 일관성 확보를 위한 모델 하이퍼파라미터(Hyperparameter) 정밀 제어
- 4.2.1 Temperature(온도) 설정: 창의성 억제와 0(Zero) 값의 의미
- 4.2.2 Top-P(Nucleus Sampling)와 Top-K의 상호작용 및 최적 조합
- 4.2.3 Frequency Penalty와 Presence Penalty가 응답 반복성 및 결정론에 미치는 영향
- 4.2.4 Stop Sequences(중단 시퀀스)를 활용한 출력 범위 강제 및 할루시네이션 차단
- 4.2.5 Max Tokens 설정을 통한 응답 길이의 물리적 제한과 일관성
- 4.2.6 Logit Bias 조작: 특정 토큰의 생성 확률 강제 배제 및 유도