아래 설명에 해당하는 활성화 함수는?입력이 0 이하이면 0 을, 양수이… | [ADsP] 데이터분석 준전문가 기출유형 모의고사 4회 상세 페이지
1[ADsP] 데이터분석 준전문가 기출유형 모의고사 4회
아래 설명에 해당하는 활성화 함수는?입력이 0 이하이면 0 을, 양수이면 입력값을 그대로 출력한다. 양수 구간의 기울기가 1로 일정해 깊은 신경망의 은닉층에서 기울기 소실 문제를 완화하는 데 주로 쓴다.
1
소프트맥스(Softmax)
2
시그모이드(Sigmoid)
3
렐루(ReLU)
4
항등 함수
해설
음수는 0, 양수는 그대로 내보내는 함수는 ReLU(Rectified Linear Unit)이다.
양수 구간 미분값이 1이라 역전파 때 기울기가 줄어들지 않아 기울기 소실 완화에 유리하며, 은닉층 기본값으로 널리 쓰인다.
- 시그모이드: 0~1 출력이며 양 끝에서 기울기가 0 에 가까워 소실이 생긴다
- 소프트맥스: 다중 분류 출력층에서 확률 합을 1로 만든다
- 항등 함수: 음수도 그대로 내보내며 주로 회귀 출력층에 쓴다
오류나 개정된 내용이 보이면 알려주세요