Temperature (온도)

LLM의 "창의성 다이얼"입니다.

범위와 효과

• 0.0: 가장 확률 높은 토큰만 선택 (결정적)
• 0.1~0.3: 정확하고 일관적 (코딩, 분석)
• 0.5~0.7: 균형 (일반 대화)
• 0.8~1.0: 다양하고 창의적 (글쓰기, 브레인스토밍)
• >1.0: 매우 무작위 (대부분 비추천)

기술적 원리

Softmax 함수의 분모를 조절
→ 낮은 온도: 확률 분포가 날카로움
→ 높은 온도: 확률 분포가 평평함

Top-p와 함께 사용

보통 Temperature 또는 Top-p 중 하나만 조절 권장