서로 독립인 두 랜덤 변수 X와 Y의 확률분포가 다음과 같을 때, 엔트… | [7급 국가직 통신이론] 22년 1회차 기출문제 상세 페이지

1[7급 국가직 통신이론] 22년 1회차

서로 독립인 두 랜덤 변수  $X$ 와  $Y$ 의 확률분포가 다음과 같을 때, 엔트로피에 대한 설명으로 옳은 것은? (단,  $H(X)$ 와  $H(Y)$ 는 각각  $X$ 와  $Y$ 의 엔트로피,  $H(X,Y)$ 는 결합 엔트로피,  $H(X|Y)$ 는 조건부 엔트로피이다) $\Pr[X=k]=\Pr[Y=k]=\begin{cases}2^{-k}, & k=1,2,3,4,5\\2^{-5}, & k=6\\0, & \text{otherwise}\end{cases}$

이 확률분포는  $H(X)$ 와  $H(Y)$  모두를 최대로 한다.

 $H(X)$ 와  $H(Y)$ 는  $\frac{31}{16}$  [bits/symbol]로 서로 같다.

 $H(X,Y) > H(X)+H(Y)$ 가 성립한다.

 $H(X|Y) < H(X)$ 가 성립한다.

해설

 $X$ 와  $Y$ 는 분포가 같아 엔트로피가 같고, 계산하면  $\dfrac{31}{16}$  bits/symbol이다.
공식:  $H(X)=-\sum p_k\log_2 p_k=\sum_{k=1}^{5}k\,2^{-k}+5\cdot2^{-5}$ 
대입:  $\dfrac{16+16+12+8+5}{32}+\dfrac{5}{32}=\dfrac{62}{32}=\dfrac{31}{16}$ 
엔트로피 최대: 6개 값에서 엔트로피가 최대인 것은 균등분포( $\log_2 6$ )일 때이다.
 $H(X,Y)\gt H(X)+H(Y)$ : 결합 엔트로피는 항상 합 이하이며 독립이면 등호가 성립한다.
 $H(X|Y)\lt H(X)$ : 독립이면  $Y$ 가  $X$ 에 대한 정보를 주지 않아  $H(X|Y)=H(X)$ 이다.

오류나 개정된 내용이 보이면 알려주세요

이어서 풀어보기

[7급 국가직 통신이론] 22년 1회차 25문항 이어서 보기문제·정답·해설을 한 페이지에서 이어서 볼 수 있어요

비슷한 기출

7급 국가직 통신이론 기출문제 암기장 전체 보기

💬 자격증 스터디 커뮤니티헷갈리는 문제, 같이 준비하는 사람들에게 물어보세요

→