有効数字

わかっているようで,実際に数値を扱うとなるとおかしなことをやってしまって,指導者に苦言を呈されることになりがちな有効数字. 有効数字は何桁まで取れるのか. 実験値を扱うときにはいつもこのことを考慮に入れなくてはいけない.

5 と 5.0 と 5.00 は意味がすべて異なる.高校の物理・化学でもいわれているはずが,実際にはちゃんと扱えていないことが極めて多い.この3つの数値の意味の違いをちゃんと説明できるだろうか?

有効数字の処理の仕方は,かけ算割り算は一番少ない桁数の数値に支配される,とか,足し算引き算は桁あわせが先,とか,そういうルールはいろいろ知っているはずである.

では,43.3 という測定値が得られたとして,その常用対数値はどこまで取るべきだろうか.

43.3 は有効数字は 3桁なのはわかるだろう. 4.33×101 という書き方の方がよい,というのも知っているだろう.

では,43.3 の常用対数はどこまで有効数字と見て計算すべきだろうか.
電卓を叩くと 1.636487896353... と出てくる. 有効数字3桁だから 1.64.

これは不正解である.

43.3 という数値の意味を考え直してみよう. 有効数字の概念から,この場合の小数点以下1桁目の3という数字には,±1 程度の誤差が入っている可能性がある (実際には測定器の分解能にも依存するので ±1 とは限らないが). つまり,測定値としては,43.2 から 43.4 の間にある,ということを意味していると考えればよかろう.

では,あり得る最大および最小の値も含めて,すべて常用対数を取って比べてみよう.

log 43.2 = 1.6354837468149120927400392886633
log 43.3 = 1.6364878963533654426980664496853
log 43.4 = 1.6374897295125107055926592534355

どこまで数字が一致しているかよく比べて欲しい. つまり,43.3±0.1 に対応するのは 1.636±0.001 なのである.

したがって,この場合は,1.636 までを示すべきであるし,計算に使わなくてはならない.
1.64 にするのは無意味に桁を落としているだけである.

このように,誤差がどのように具体的に現れるかを考えると,どこまでを有効数字として使えるかは比較的容易に見当がつく.

よくある例題でもう一度やってみよう.

4.12×3.1

最も小さい可能性は 4.11×3.0 であり,最も大きい可能性は 4.13×3.2 である.
有効数字を考えずに電卓を単に叩けば同様に,
4.11×3.0 = 12.33
4.12×3.1 = 12.772
4.13×3.2 = 13.216
したがって,13までしか意味がないことがわかる.

4.12+3.0 も同様に考えることができる.
4.11+3.0 = 7.11
4.12+3.1 = 7.22
4.13+3.2 = 7.33
7.2 までしか意味がないことは明らかである.

なんとなく有効数字の計算をしていた人は,ぜひ一度このような計算をして,どのように誤差が伝わるのかを確認して欲しい.