홍라이프 계산기유효숫자 계산기 쉽게 이해하기 — 개념과 원리
유효숫자는 수에서 정밀도에 관한 실제 정보를 담고 있는 숫자들입니다. 0.004560 m와 0.0046 m는 값은 비슷하지만 앞의 것이 훨씬 더 정밀하게 측정했다는 뜻을 담고 있습니다. 이 계산기는 입력한 수의 유효숫자 개수를 세고, 원하는 유효숫자 자릿수로 반올림합니다. 실험 보고서, 물리·화학 문제 풀이처럼 측정값보다 더 정밀한 척하지 않아야 하는 곳에서 씁니다.
계산 방법
입력한 그대로의 숫자에 다음 규칙을 적용합니다(부호와 지수 부분은 제외합니다).
- 0이 아닌 숫자는 모두 유효숫자입니다.
- 0이 아닌 숫자 사이의 0은 유효숫자입니다(1,005는 4개).
- 앞자리의 0은 소수점 위치만 나타내므로 유효숫자가 아닙니다(0.0045는 2개).
- 끝자리의 0은 소수점이 있으면 유효숫자입니다(2.50은 3개). 소수점이 없으면 유효숫자로 세지 않습니다(1,200은 2개로 셉니다).
반올림은 0이 아닌 첫 숫자부터 정한 개수만큼 남기고 그 다음 자리에서 합니다.
원리
모든 측정에는 정밀도의 한계가 있고, 마지막으로 기록한 자리가 처음으로 불확실한 자리입니다. 소수점 뒤에 0을 적었다는 것은 그 0까지 실제로 읽었다는 뜻이고, 앞자리의 0은 단위의 크기를 나타낼 뿐입니다. 과학적 표기법을 쓰면 모호함이 사라집니다. 1.20 × 10³은 분명히 유효숫자 3개이지만 1,200만 보고는 2개인지 3개인지 4개인지 알 수 없습니다. 유효숫자로 반올림하면 수의 크기와 관계없이 상대적인 정밀도가 같게 유지됩니다.
예제 풀이
- 입력값: 0.004560, 유효숫자 2자리로 반올림합니다.
- 앞의 "0.00"은 유효숫자가 아니고 4, 5, 6과 소수점 뒤 끝자리 0이 유효숫자입니다.
- 입력한 수의 유효숫자는 4개입니다.
- 두 자리 4와 5를 남기고, 다음 자리가 6으로 5 이상이므로 올립니다.
- 반올림 결과는 0.0046입니다.
결과 해석
유효숫자 4개는 대략 1,000분의 1 수준의 상대 정밀도를 뜻합니다. 계산 결과는 곱셈과 나눗셈이면 유효숫자가 가장 적은 값에 맞추고, 덧셈과 뺄셈이면 소수 자리가 가장 적은 값의 자리에 맞추어 반올림합니다.
흔한 실수
- 앞자리 0까지 세어 0.0046의 유효숫자를 5개로 보는 경우입니다.
- 측정한 끝자리 0을 지우는 경우입니다. 2.50으로 읽은 값을 2.5로 쓰면 정밀도가 줄어듭니다.
- 중간 계산값을 반올림하는 경우입니다. 반올림은 최종 답에서만 합니다.
- 개수나 정의된 상수(달걀 12개, 1 m = 100 cm)처럼 정확한 수에 유효숫자 규칙을 적용하는 경우입니다.
자주 묻는 질문
100의 유효숫자는 몇 개인가요?
모호합니다. 일반 규칙으로는 1개이지만 2개나 3개일 수도 있습니다. 1.0 × 10²이나 1.00 × 10²처럼 써서 의도한 정밀도를 밝히는 것이 좋습니다.
1.050의 0은 모두 유효숫자인가요?
네. 가운데 0은 0이 아닌 숫자 사이에 있고 끝의 0은 소수점 뒤에 있으므로 유효숫자는 4개입니다.
유효숫자 반올림과 소수 자리 반올림은 어떻게 다른가요?
소수 자리는 소수점부터, 유효숫자는 0이 아닌 첫 숫자부터 셉니다. 0.004560을 소수 둘째 자리로 반올림하면 0.00이지만 유효숫자 2자리로는 0.0046입니다.
출처: JCGM 100:2008, Guide to the expression of uncertainty in measurement (GUM) · ISO 80000-1:2009, Quantities and units — Part 1: General, Annex B (수의 반올림)