기본 순환 신경망(RNN, Recurrent Neural Network… | [7급 국가직 인공지능] 23년 1회차 기출문제 상세 페이지
1[7급 국가직 인공지능] 23년 1회차
기본 순환 신경망(RNN, Recurrent Neural Network)과 이의 변형 기법에 대한 설명으로 옳지 않은 것은?
1
RNN은 계층이 깊어질수록 그래디언트 소멸 문제(vanishing gradient problem)가 발생하기 쉽다.
2
LSTM(Long Short Term Memory)의 출력은 이전 시점의 입력값과 은닉층의 값뿐만 아니라 이후 시점의 입력값과 은닉층의 값에도 영향을 받는다.
3
RNN에서 순환 드롭아웃(recurrent dropout)은 과적합(overfitting)을 방지하기 위해 사용된다.
4
GRU(Gated Recurrent Unit)는 LSTM과 유사한 원리로 동작하지만, 게이트 수를 줄여 더 간결한 구조를 갖는다.
해설
LSTM은 과거에서 현재 방향으로만 정보를 전달하므로 이후 시점의 입력·은닉값에 영향을 받는다는 설명이 옳지 않다.
앞뒤 시점을 모두 반영하는 것은 순방향·역방향 RNN을 결합한 양방향 RNN이다.
- 기본 RNN은 시간 축으로 펼쳐 깊어질수록 같은 가중치가 반복 곱해져 그래디언트 소멸이 일어나기 쉽다.
- 순환 드롭아웃은 순환 연결에 드롭아웃을 적용해 과적합을 막는다.
- GRU는 리셋·업데이트 두 게이트로 LSTM의 세 게이트를 줄인 간결한 구조이다.
오류나 개정된 내용이 보이면 알려주세요