프롬프트입문
Temperature
온도 · Temperature
LLM 출력의 무작위성을 조절하는 파라미터로, 낮으면 일관적, 높으면 창의적 응답을 생성
상세 설명
Temperature (온도)
LLM의 "창의성 다이얼"입니다.
범위와 효과
- 0.0: 가장 확률 높은 토큰만 선택 (결정적)
- 0.1~0.3: 정확하고 일관적 (코딩, 분석)
- 0.5~0.7: 균형 (일반 대화)
- 0.8~1.0: 다양하고 창의적 (글쓰기, 브레인스토밍)
- >1.0: 매우 무작위 (대부분 비추천)
기술적 원리
Softmax 함수의 분모를 조절
→ 낮은 온도: 확률 분포가 날카로움
→ 높은 온도: 확률 분포가 평평함
Top-p와 함께 사용
보통 Temperature 또는 Top-p 중 하나만 조절 권장
태그
#LLM#설정#생성