모델/아키텍처중급
RNN
순환 신경망 · Recurrent Neural Network
이전 출력을 다음 입력에 반영하여 순차적 데이터를 처리하는 신경망
상세 설명
RNN (순환 신경망)
시간 순서가 있는 데이터를 처리하기 위한 신경망입니다.
원리
이전 단계의 출력(은닉 상태)을 기억해서 다음 단계에 활용
→ "기억력"이 있는 신경망
변형
- LSTM: 장기 의존성 학습 가능 (게이트 메커니즘)
- GRU: LSTM의 간소화 버전
- Bidirectional RNN: 양방향 처리
한계
- 긴 시퀀스에서 기억 소실
- 병렬 처리 불가 (순차적)
현재
Transformer에 의해 대부분 대체되었지만, 실시간 처리 등 일부 영역에서 여전히 사용
태그
#시퀀스#딥러닝#NLP