KL발산(Kullback-Leibler divergence)에 대한 설… | [7급 서울시 인공지능] 26년 1회차 기출문제 상세 페이지

1[7급 서울시 인공지능] 26년 1회차
KL발산(Kullback-Leibler divergence)에 대한 설명으로 가장 옳지 않은 것은?
1
두 확률분포 사이의 차이를 측정하는 데 사용된다.
2
항상 0 이상이다.
3
대칭성을 만족한다.(DKL(P∥Q)=DKL(Q∥P)D_{KL}(P \parallel Q) = D_{KL}(Q \parallel P))
4
두 분포가 같으면 0이다.
해설

KL발산은 대칭성을 만족하지 않으므로, 두 방향의 값이 같다는 설명이 옳지 않다.

정의 DKL(P∥Q)=∑xP(x)log⁡P(x)Q(x)D_{KL}(P \parallel Q) = \sum_x P(x)\log\dfrac{P(x)}{Q(x)}에서 기준 분포가 PP로 고정되므로, PP와 QQ를 바꾸면 일반적으로 값이 달라진다. 그래서 KL발산은 엄밀한 의미의 거리(metric)가 아니다.

  • 두 확률분포가 얼마나 다른지를 재는 척도로 쓰인다는 설명은 옳다.
  • 깁스 부등식에 따라 KL발산은 항상 0 이상이라는 설명은 옳다.
  • 두 분포가 같으면 로그 안의 비가 1이 되어 값이 0이라는 설명은 옳다.

오류나 개정된 내용이 보이면 알려주세요

이어서 풀어보기

[7급 서울시 인공지능] 26년 1회차 20문항 이어서 보기문제·정답·해설을 한 페이지에서 이어서 볼 수 있어요7급 서울시 인공지능 기출문제 암기장 전체 보기