수치 맺음법에 따라 계산한 것으로 틀린 것은? | [품질경영기사 필기] 20년 1회차 기출문제 상세 페이지
1[품질경영기사 필기] 20년 1회차
수치 맺음법에 따라 계산한 것으로 틀린 것은?
1
2.2962를 유효숫자 3 자리로 맺으면 2.30 이다.
2
3.2967을 소수점 이하 3 자리로 맺으면 3.297 이다.
3
5.346을 유효숫자 2 자리로 맺을 때 첫 단계로 5.35, 둘째 단계로 5.4 가 되어 결국 5.4 이다.
4
0.0745(소수점 이하 4 자리가 반드시 5 인지 버려진 것인지 올려진 것인가를 모른다)를 소수점 이하 3 자리로 맺으면 0.074 이다.
해설
5.346을 유효숫자 2자리로 맺을 때는 원래 값을 기준으로 한 번에 반올림해 5.3이 되어야 한다. "먼저 5.35로 맺은 뒤 다시 5.4로 맺는다"는 2단계 반올림(이중 맺음)은 올바른 수치 맺음법이 아니며 결과값 5.4도 틀렸다.
내용에 오류가 있거나 최신 법령·기준과 다른 부분이 보이면 알려주세요. 확인 후 반영하겠습니다.