L1 정칙화(regularization)와 L2 정칙화에 대한 설명으로… | [7급 서울시 인공지능] 26년 1회차 기출문제 상세 페이지

1[7급 서울시 인공지능] 26년 1회차
L1 정칙화(regularization)와 L2 정칙화에 대한 설명으로 가장 옳은 것은?
1
L1 정칙화에 사용하는 벌점(penalty)은 가중치 성분이 0인 점에서 미분 가능하며, 최적해를 항상 유일하게 만든다.
2
L1 정칙화는 일부 가중치를 정확히 0으로 만들 수 있지만, L2 정칙화는 일반적으로 가중치의 크기를 줄이되 정확히 0으로 만들지는 않는다.
3
L1 정칙화는 가중치 제곱합을 사용하고, L2 정칙화는 가중치 절댓값의 합을 사용한다.
4
정칙화 강도 λ\lambda가 커질수록 두 방법에서 정칙화의 영향은 약해진다.
해설

L1 정칙화는 일부 가중치를 정확히 0으로 만들어 희소한 해를 주지만, L2 정칙화는 가중치를 줄일 뿐 대개 0으로 만들지는 않는다.

L1 벌점은 절댓값이라 원점에서 뾰족한 모서리가 생겨 최적해가 축 위(가중치 0)에 놓이기 쉽고, L2 벌점은 매끄러운 원형이라 0 근처로 수축만 시킨다.

  • 절댓값 벌점은 가중치가 0인 점에서 미분 불가능하며, 볼록이지만 강볼록이 아니어서 최적해가 항상 유일하다고 할 수 없다.
  • 제곱합을 쓰는 쪽이 L2, 절댓값 합을 쓰는 쪽이 L1으로, 설명이 서로 뒤바뀌었다.
  • 정칙화 강도 λ\lambda가 커질수록 벌점 항의 비중이 커져 정칙화의 영향은 오히려 강해진다.

오류나 개정된 내용이 보이면 알려주세요

이어서 풀어보기

[7급 서울시 인공지능] 26년 1회차 20문항 이어서 보기문제·정답·해설을 한 페이지에서 이어서 볼 수 있어요7급 서울시 인공지능 기출문제 암기장 전체 보기