이진 데이터 X=\{x_1,\ x_2\}이고, 각각의 확률이 p_1=p… | [7급 국가직 통신이론] 11년 1회차 기출문제 상세 페이지
1[7급 국가직 통신이론] 11년 1회차
이진 데이터 이고, 각각의 확률이 와 일 때, 에 대한 엔트로피 에 대한 설명으로 옳은 것은? (단, 이다)
1
는 와 같다.
2
또는 1일 경우 는 최댓값을 갖는다.
3
이면 는 1이다.
4
값이 크다는 것은 불확실성이 거의 없다는 것과 같다.해설
이진 엔트로피는 일 때 최댓값 1비트를 갖는다.
정의는 이며, 를 대입하면 이다.
- 엔트로피 식은 앞에 음의 부호가 붙어야 하므로 부호가 없는 식은 틀리다.
- 또는 1이면 결과가 확정되어 엔트로피는 최솟값 0이 된다.
- 엔트로피가 크다는 것은 불확실성이 크다는 뜻이다.
오류나 개정된 내용이 보이면 알려주세요