심벌 집합{S1, S2, S3}에서 S1, S2, S3의 발생 확률이 … | [국회직 9급 방송통신공학] 18년 1회차 기출문제 상세 페이지

심벌 집합의 평균 정보량은 1.5비트이다.
엔트로피는 각 심벌의 정보량에 발생 확률을 곱해 더한 값이다.
$H = -\sum_{i} P_{i}\log_{2}P_{i}$
확률을 대입한다.
$H = 0.5\log_{2}2 + 0.25\log_{2}4 + 0.25\log_{2}4$
$H = 0.5\times1 + 0.25\times2 + 0.25\times2$
$H = 1.5\,\mathrm{bit}$