인공신경망 학습에서 손실함수의 기울기 반대 방향으로 가중치를 조금씩 반… | [ADsP] 데이터분석 준전문가 기출유형 모의고사 8회 상세 페이지
1[ADsP] 데이터분석 준전문가 기출유형 모의고사 8회
인공신경망 학습에서 손실함수의 기울기 반대 방향으로 가중치를 조금씩 반복 갱신해 손실을 줄이는 최적화 방법은?
1
EM 알고리즘
2
정규방정식 직접 풀이
3
확률적 경사하강법
4
유전 알고리즘
해설
손실의 기울기를 구해 그 반대 방향으로 학습률만큼 가중치를 옮기는 방법은 경사하강법(Gradient Descent)이며, 미니배치로 나눠 반복하는 확률적 경사하강법이 대표적이다.
역전파는 각 가중치에 대한 기울기를 계산하는 과정이고, 그 기울기로 실제 갱신하는 것이 경사하강법이다.
- 유전 알고리즘: 선택·교차·변이로 해를 진화시키며 기울기를 쓰지 않는다
- EM 알고리즘: 잠재변수 모형의 기대·최대화 단계를 반복한다
- 정규방정식: 선형회귀 해를 반복 없이 한 번에 구한다
오류나 개정된 내용이 보이면 알려주세요