일반적인 컴퓨터 시스템에서 정확한 값으로 표현하기 가장 어려운 것은? | [9급 지방직 컴퓨터일반] 21년 1회차 기출문제 상세 페이지

정확한 값으로 표현하기 가장 어려운 것은 √2이다.
√2는 무리수라 이진수로 바꾸면 소수점 아래가 끝없이 이어지므로, 유한한 비트를 쓰는 부동소수점 형식으로는 근삿값만 저장할 수 있다. 나머지 값은 모두 2의 거듭제곱의 합으로 끝나는 유한 이진소수이다.
$1\dfrac{3}{4}$은 $1 + 0.5 + 0.25$이므로 이진수 $1.11_{2}$로 정확히 표현된다.
2.5는 $2 + 0.5$이므로 이진수 $10.1_{2}$로 정확히 표현된다.
$-0.25 \times 2^{-5}$는 $-2^{-7}$과 같아 부호와 지수만으로 정확히 표현된다.