[화학을 시작하기 전에] 숫자의 처리와 단위








화학에서는 국제표준단위 (약자로 SI 단위라고 한다)를 사용한다. 다음 표 1에 기본적인 SI단위들이 나와 있다. 그리고 이런 기본단위를 사용한 값이 너무 크거나 작은 경우에는 이 기본단위에 표 2에 나타난 것과 같은 접두사를 붙여 사용한다. 예를 들어 나노미터 (nm)는 1미터의 10-9 배 즉 10억분의 1이 된다.


대상이 되는 양
단위의 명칭
기호
길이
질량
시간
전류
온도
물질의 양
밝은 정도
미터 (meter)
킬로그램 (kilogram)
초 (second)
암페어 (ampere)
캘빈 (kelvin)
몰 (mole)
칸델라 (candela)
m
kg
s
A
K
mol
cd
표 1  기본적인 SI 단위들


접두사
기호
의미
지수표현
엑사 (exa)
페타 (peta)
테라 (tera)
기가 (giga)
메가 (mega)
킬로 (kilo)
헥토 (hecto)
데카 (deca)
-
데시 (deci)
센티 (centi)
밀리 (milli)
마이크로 (micro)
나노 (nano)
피코 (pico)
펨토 (femto)
아토 (atto)
E
P
T
G
M
k
h
da
-
d
c
m
μ
n
p
f
a
1,000,000,000,000,000,000
1,000,000,000,000,000
1,000,000,000,000
1,000,000,000
1,000,000
1,000
100
10
1
0.1
0.01
0.001
0.000001
0.000000001
0.000000000001
0.000000000000001
0.000000000000000001
1018
1015
1012
109
106
103
102
101
100
10-1
10-2
10-3
10-6
10-9
10-12
10-15
10-18
표 2  SI 단위에서 사용되는 접두사


실험한 결과를 평가할 때는 정확도와 정밀도 두 가지 측면을 모두 살펴보아야 한다. 정확도 (accuracy)는 측정값이 참값과 가까운 정도를 나타내고 정밀도 (precision)는 여러 번 측정했을 때 측정치들 사이의 오차에 의해 결정된다.

키가 162.9㎝인 어떤 사람의 키를 측정한 실험을 예로 들어보자. 표 3에서 실험자 갑의 경우를 보면 이 실험자는 3회 측정을 통해 참값에 비교적 가까운 163.9의 평균값을 얻었다.

그러나 각 측정값의 차이가 너무 크기 때문에 이 실험자의 측정은 신뢰할 수 없다. 이와 같이 측정값들 사이의 오차가 클 경우 정밀도가 낮다고 말한다. 정밀도가 낮을 경우에는 실험 결과를 신뢰할 수 없기 때문에 정확도는 의미가 없어진다.

실험자 갑은 실험을 부주의하게 하는 사람인 것으로 보인다. 실험자 을의 경우에는 평균값이 참값에서 많이 벗어나 정확도는 낮지만 정밀도는 높다. 이 실험자는 실험은 신중하게 잘 했지만 측정한 기구에 문제가 있기 때문에 기구를 보정하고 다시 실험한다면 정확한 값을 얻을 수 있을 것이다. 실험자 병은 정확도와 정밀도가 모두 높은 경우이다.



실험자 갑
실험자 을
실험자 병
1회
169.8
173.8
162.3
2회
158.3
173.1
162.7
3회
163.7
173.4
161.9
평균
163.9
173.4
162.3
표준편차
5.75
0.35
0.4
평가
정밀도가 낮아 신뢰할 수 없음
정밀도는 높으나 정확하지 않음
정확도와 정밀도가 모두 높아 신뢰할 수 있음
표3  정확도와 정밀도의 차이

유효숫자를 정확하게 다루는 것은 중요하다.

만약 여러분이 유효숫자를 정확하게 처리하지 않으면 그것은 과학적으로 거짓말을 하는 것이다. 그림 12에 있는 것과 같이 같은 막대의 길이를 측정할 때 눈금이 서로 다른 자를 사용하면 유효숫자가 달라진다.

(a)의 경우에는 자의 눈금이 1㎝ 단위로 되어 있기 때문에 4.5㎝라고 읽을 수 있다. (b)의 경우에는 자의 눈금이 0.1㎝ 단위로 되어 있어 4.55㎝로 읽을 수 있다. 따라서 측정치가 4.5㎝인지 4.55㎝는 곧 측정방법의 수준을 보여주는 것이다. 

만약 (a)와 같이 눈금이 1㎝ 단위로 되어 있는 자로 측정하면서 4.55㎝라고 기록한다면 그것은 거짓말이다.


측정 방법의 차이에 따른 유효숫자 차이



유효숫자를 정확하게 다루기 위해서는 다음의 몇 가지 규칙을 잘 알고 있어야 한다.

1. 0이 아닌 숫자는 언제나 유효숫자로 취급한다.

2. 0은 다음의 네 가지 경우로 나눠진다.

(1) 0이 아닌 숫자 앞에 0만 있는 경우는 단순히 자리수를 나타내기 위한 것이기 때문에 유효숫자가 아니다. 예를 들어 0.0038의 경우 3과 8만 유효숫자이고 앞의 0 세 개는 자리수를 나타내기 위한 것으로 유효숫자가 아니다.

(2) 0이 아닌 숫자들 사이에 있는 0은 유효숫자이다. 예를 들어 3.007이나 2004에서 가운데 있는 두 개의 0은 모두 유효숫자이다.

(3) 소수점 아래에 있는 0은 유효숫자이다. 예를 들어 2.3000의 경우 세 개의 0은 모두 유효숫자이다.

(4) 정수에서 자리수를 나타내는 0은 유효숫자인지 아닌지 분명하지 않다. 예를 들어 25000의 경우 세 개의 0이 유효숫자인지 아니면 단순히 자리수를 나타내는 것인지 명확하지 않다. 따라서 이런 수를 과학적으로 표기할 때는 지수법을 사용하여 2.50×104 으로 나타낸다. 여기에서는 유효숫자가 세 개임을 알 수 있다.


3. 정확한 숫자는 무한한 유효숫자를 갖는다.

예를 들어 사람이 12명 있다고 할 때 12는 정확한 숫자이기 때문에 유효숫자의 개수가 제한되지 않는다. 또한 1인치를 2.54㎝로 정의할 때 2.54도 정확한 숫자에 해당된다.

4. 더하기나 빼기를 할 때 유효숫자는 자릿수에 의해 결정된다.

예를 들어 0.3815+2.37=2.7515 의 경우 2.37의 유효숫자가 소수점 아래 두 자리까지만 있기 때문에 합한 값도 소수점 아래 두 자리까지만 믿을 수 있다. 따라서 소수점 아래 세 자리에서 반올림하여 2.75가 된다.

5. 곱하기나 나누기에서는 유효숫자의 개수에 의해 결정된다.

예를 들어 25.5328×0.254=6.4853312의 경우 25.5328과 0.254의 유효숫자가 각각 여섯 개와 세 개이기 때문에 계산 값의 유효숫자는 세 개로 제한된다. 따라서 답은 6.49라고 써야 한다.

6. 계산기로 여러 단계의 계산을 할 경우에는 매 단계마다 유효숫자를 고려하여 반올림을 하는 것보다 계산을 모두 마치고 마지막에 반올림을 하는 것이 더 바람직하다.



예제 다음 계산 결과를 적절한 유효숫자로 나타내라.

1) 35.0+3.753

2) 0.00520×9.700


풀이

1) 계산결과는 38.753이다. 그러나 유효숫자의 자릿수는 35.0에 의해 제한되어 유효숫자는 소수점 아래 첫째 자리까지이다. 따라서 소수점 아래 둘째 자리에서 반올림하면 38.8이 된다. 35.0의 0도 유효숫자임을 기억하라.

2) 계산 결과는 0.05044이다. 0.00520과 9.700의 유효숫자는 각각 세 개와 네 개이기 때문에 답의 유효숫자는 세 개로 제한된다. 따라서 답은 0.0504이다. 0.00520의 경우 앞의 0 세 개는 유효숫자가 아니지만 뒤의 0은 유효숫자이다.








Reactions





댓글 쓰기

0 댓글