모두CBT

선형 회귀에서 손실함수(loss function)가 다음과 같을 때, … | [7급 국가직 인공지능] 23년 1회차 기출문제 상세 페이지

1[7급 국가직 인공지능] 23년 1회차
선형 회귀에서 손실함수(loss function)가 다음과 같을 때, 경사 하강법에 대한 내용으로 옳지 않은 것은? (단, 학습률은 0.05이고 WW는 가중치(weight), bb는 편향(bias)이다)
Loss(W,b)=1n∑i=1n((Wxi+b)−yi)2Loss(W,b) = \dfrac{1}{n}\sum_{i=1}^{n}((Wx_i+b)-y_i)^2
1
∂Loss(W,b)∂W=2n∑i=1n((Wxi+b)−yi)\dfrac{\partial Loss(W,b)}{\partial W} = \dfrac{2}{n}\sum_{i=1}^{n}((Wx_i+b)-y_i)
2
Wnew=W−0.05×∂Loss(W,b)∂WW_{new} = W-0.05\times\dfrac{\partial Loss(W,b)}{\partial W}
3
bnew=b−0.05×∂Loss(W,b)∂bb_{new} = b-0.05\times\dfrac{\partial Loss(W,b)}{\partial b}
4
bnew=b−0.1×1n∑i=1n((Wxi+b)−yi)b_{new} = b-0.1\times\dfrac{1}{n}\sum_{i=1}^{n}((Wx_i+b)-y_i)
해설

가중치에 대한 편미분에는 입력 xix_i가 곱해져야 하므로, W에 대한 편미분식이 옳지 않다.

연쇄법칙으로 미분하면 다음과 같다.
∂Loss∂W=2n∑i=1n((Wxi+b)−yi)xi\dfrac{\partial Loss}{\partial W} = \dfrac{2}{n}\sum_{i=1}^{n}((Wx_i+b)-y_i)x_i
∂Loss∂b=2n∑i=1n((Wxi+b)−yi)\dfrac{\partial Loss}{\partial b} = \dfrac{2}{n}\sum_{i=1}^{n}((Wx_i+b)-y_i)

  • W 갱신식: 경사 하강법은 현재 값에서 학습률 × 기울기를 빼므로 옳다.
  • 편미분 기호로 쓴 b 갱신식: 같은 원리로 옳다.
  • 전개한 b 갱신식: 학습률 0.05와 계수 2n\dfrac{2}{n}을 곱하면 0.1×1n0.1\times\dfrac{1}{n}이 되므로 옳다.

오류나 개정된 내용이 보이면 알려주세요

이어서 풀어보기

[7급 국가직 인공지능] 23년 1회차 25문항 이어서 보기문제·정답·해설을 한 페이지에서 이어서 볼 수 있어요7급 국가직 인공지능 기출문제 암기장 전체 보기