선형 회귀에서 손실함수(loss function)가 다음과 같을 때, 경사 하강법에 대한 내용으로 옳지 않은 것은? (단, 학습률은 0.05이고 W는 가중치(weight), b는 편향(bias)이다)Loss(W,b)=n1∑i=1n((Wxi+b)−yi)2
1∂W∂Loss(W,b)=n2∑i=1n((Wxi+b)−yi)
2Wnew=W−0.05×∂W∂Loss(W,b)
3bnew=b−0.05×∂b∂Loss(W,b)
4bnew=b−0.1×n1∑i=1n((Wxi+b)−yi)
해설
가중치에 대한 편미분에는 입력 xi가 곱해져야 하므로, W에 대한 편미분식이 옳지 않다.
연쇄법칙으로 미분하면 다음과 같다.
∂W∂Loss=n2∑i=1n((Wxi+b)−yi)xi
∂b∂Loss=n2∑i=1n((Wxi+b)−yi)
- W 갱신식: 경사 하강법은 현재 값에서 학습률 × 기울기를 빼므로 옳다.
- 편미분 기호로 쓴 b 갱신식: 같은 원리로 옳다.
- 전개한 b 갱신식: 학습률 0.05와 계수 n2을 곱하면 0.1×n1이 되므로 옳다.
오류나 개정된 내용이 보이면 알려주세요