[일반 화학 1] 유효 숫자 계산법
물질을 측정할 때는 항상 불확실성이 생기는데 이를 계산하기 위해 유효 숫자가 등장했다.예를 들어 한 물질을 5회 측정했다고 가정했을 때 다음과 같이 측정되었다고 한다.
1 . 20 . 15ml2 . 20 . 14ml3 . 20 . 16ml4 . 20 . 17ml5 . 20 . 16ml
이때 certain digit 부분은 20.1까지의 부분이고, uncertain digit 부분은 소수점 두자리를 의미한다.
거기서 우리는 significant figures 즉, 유효숫자를 certain digit과 uncertainty digits를 합쳐서 표현하는데, 이 경우에는 certain digit 3 + uncertain digit 1이고, 유효숫자의 수는 4그런데, 이 때, 유효 숫자를 계산하는데 있어서 중요한 룰이 있다.
< Rules for Counting Significant Figures >
1.0이 아닌 정수는 항상 유효숫자로 간주한다.123은 유효숫자가 3이다.
2.0은 상황에 따라 유효숫자로 간주하거나 간주하지 않는다.
a. leading zero는 유효숫자로 간주하지 않는다.0.0025부터 0까지는 유효숫자로 간주하지 않는다는 의미이다. 즉, 0.0025의 유효 숫자는 2개이다.
b. 0이 아닌 숫자 안에 끼어 있는 0은 유효숫자로 간주한다.ex) 1.008에서 1과 8 사이에 있는 0은 유효 숫자로 간주한다. 즉, 1.008의 유효 숫자는 4개이다.
c. 숫자 이후에 나오는 0은 또한 상황에 따라 유효숫자로 간주되는지 여부가 결정된다.이때 소수점의 존재 여부가 매우 중요하다.1.00 x 10^2 에서는 유효숫자가 3개 있다. 그러나, 100 에는 소수점이 존재하지 않으므로 유효 숫자가 하나이다.100.은 소수점이 존재하기 때문에 유효 숫자가 3개 있다.
2번의 a,b,c를 이용해 0.050080의 유효숫자의 수를 세면, 처음 02개는 leading zero로서 유효숫자로 간주하지 않는다.그리고 5와 8 사이의 0은 0이 아닌 숫자로 둘러싸여 있으므로 유효숫자로 간주한다.그리고 소수점이 존재하기 때문에 마지막 0은 유효숫자로 간주한다.따라서, 위의 숫자의 유효 숫자수는 5개이다.
3. 정확한 숫자 또는 정의에 의거한 정확한 숫자는 유효 숫자를 세지 않는다.ex) 1 inch = 2.54 cm 라는 식이 존재할 때, 우리는 2.54 가 유효 숫자가 3 이라고 세지 않는다.
이러한 기본적인 유효숫자의 세는 방법에 근거해 사칙연산을 실시할 때 어떻게 유효숫자를 세는지 살펴보자.
1. 곱셈, 나눗셈: 곱셈 또는 나눗셈의 결과값은 가장 적은 유효 숫자의 개수와 같은 수의 유효 숫자를 가져야 한다.ex) 1.05x10^-3 6.135에서 1.05의 유효 숫자는 3개, 6.135의 유효 숫자는 4개이므로, 결과치는 적은 유효 숫자의 수인 3개의 유효 숫자를 가져야 한다.그것의 결과치는 1.71 x 10^-4이다.
2. 덧셈, 뺄셈: 덧셈 또는 뺄셈의 결과값은 가장 적은 소수점 자릿수와 같은 소수점 자릿수를 가져야 한다.ex) 52.331 + 26.01 - 0.9981 로 가장 적은 소수점 자리는 2자리이다.실제로 계산기를 이용해 계산하면 77.3429라는 값을 얻게 되지만, 소수점의 자리수를 2에 맞출 필요가 있으므로 3자리째의 2에서 버리는 77.34이다.
3. 유효 숫자를 계산하고 반올림한 경우 마지막에만 진행한다.* 하지만 이건 교수님마다 약간의 차이가 있을 수 있어요. 교수님은 최종결과치에서 반올림을 하라고 하셨는데, 우리가 사용하는 교재 내에서는 사칙연산을 할 때마다 반올림을 해서 (유효숫자를 구하는 방법을 제시하기 위한 것 같습니다) 교수님의 최종결과치와 교재 결과치에 약간의 차이가 있습니다.그러나, 유효숫자로부터 예외적인 경우가 존재하기도 해, 평균을 구할 때, 단위변환을 실시할 때가 해당된다.
평균 예를 들어 (9.5+4.1+2.8+3.175)4라고 하는 식이 있다고 하면,
만약 4 임을 유효숫자 1 로 인식한다면, 최종결과치가 유효숫자 1 자리로 나타내야 하는데, 이때의 4 는 exact number 에서 유효숫자로부터 고려되지 않기 때문에 분자부분에 있는 덧셈부분만 유효숫자를 계산한 후 그 유효숫자의 최소 소수점의 자리수를 고려하여 결과값을 결정한다.
2. 단위 변환 또는 1ft = 12in 이라고 하는 식이 존재하는 경우, 1ft 12in 또는 12in 1ft 라고 하는 유닛폭트를 만들 수 있는데, 6.8ft 를 in으로 전환하고자 한다면, 음과 같은 식을 만들 수 있다.6 . 8ft x 12in / 1ft
이 때 유닛 factor의 유효 숫자는 일체 고려하지 않으며, 최종 결과값은 6.8의 유효 숫자와 같은 2개의 유효 숫자를 가져야 한다. 따라서 실제로 계산기로 계산하면 81.6이지만 유효숫자 2개에 맞추기 위해 마지막 자리에서 반올림 82in으로 나타낸다.