N개의 서로 다른 심볼 종류를 갖는 메시지 정보원(information… | [7급 국가직 통신이론] 20년 1회차 기출문제 상세 페이지
1[7급 국가직 통신이론] 20년 1회차
개의 서로 다른 심볼 종류를 갖는 메시지 정보원(information source) 집합의 정보량과 엔트로피에 대한 설명으로 옳지 않은 것은? (단, 번째 심볼 의 발생 확률을 로 표현하고, 발생하는 심볼들은 서로 통계적으로 독립이다)
1
엔트로피는 정보원의 심볼 출력당 평균 정보의 양으로 정의된다.
2
정보량을 비트로 표현할 때, 자기 정보(self information) 이다.3
집합에 속하는 심볼들의 발생 확률이 모두 같을 때, 엔트로피는 최대가 된다.
4
서로 다른 발생 확률을 갖는 이진 정보원()의 집합을 라 할 때, 엔트로피 는 이다.
해설
옳지 않은 것은 이진 정보원의 엔트로피 범위를 0~2로 본 설명이다.
개 심볼의 엔트로피는 이므로 이진 정보원은 최대 1 [bit]이다. 발생 확률이 서로 다르면 1보다도 작다.
- 엔트로피는 심볼당 평균 정보량 로 정의된다.
- 자기 정보는 [bit]로 옳다.
- 모든 심볼이 등확률일 때 엔트로피가 으로 최대가 된다.
오류나 개정된 내용이 보이면 알려주세요