이진 심벌 X의 발생 확률이 P \left[ X = 1 \right] … | [국회직 9급 통신이론] 24년 1회차 기출문제 상세 페이지

엔트로피를 계산하면 $\log_{2} 3 - \dfrac{2}{3}$이다.
공식: $H(X) = - \sum p_{i} \log_{2} p_{i}$
대입: $H(X) = \dfrac{1}{3} \log_{2} 3 + \dfrac{2}{3} \log_{2} \dfrac{3}{2}$
전개: $H(X) = \dfrac{1}{3} \log_{2} 3 + \dfrac{2}{3} \log_{2} 3 - \dfrac{2}{3} \log_{2} 2 = \log_{2} 3 - \dfrac{2}{3} \approx 0.918 \, \mathrm{bit}$
이진 심벌의 엔트로피는 0과 1 사이에 있어야 하며, 확률이 치우쳐 있으므로 1보다 약간 작다.
$\log_{3}(2) - \dfrac{1}{4}$: 약 0.38로 계산값과 다르다.
$\log_{3}(2) - \dfrac{3}{4}$: 음수가 되어 엔트로피가 될 수 없다.
$\log_{2}(3) - \log_{3}(2)$: 약 0.95로 계산값과 다르다.
$\log_{2}(3) - \dfrac{1}{4}$: 1을 넘어 이진 심벌의 엔트로피 범위를 벗어난다.