기법/방법론입문
Epoch
에포크 · Epoch
전체 학습 데이터를 한 번 완전히 순회하는 학습 단위
상세 설명
Epoch (에포크)
모델이 전체 데이터를 한 바퀴 본 것을 1 에포크라 합니다.
예시
- 데이터 1,000개, 배치 사이즈 100
- 1 에포크 = 10번의 배치 학습
몇 에포크가 적절한가?
- 너무 적으면: 학습 부족 (underfitting)
- 너무 많으면: 과적합 (overfitting)
- 일반적: 10~100 에포크 + 조기 종료(Early Stopping)
LLM 학습
대규모 모델은 보통 1~3 에포크만 학습 (데이터가 충분히 크므로)
태그
#학습#하이퍼파라미터#기초