10/01/02② 有効数字のお話②
- カテゴリ：勉強
- 2010/01/02 02:40:26
余談ですが、たぶん、そちらが物理の問題を解いてるときに
「0.5kg」を「0.50kg」や「0.500kg」というふうに表記していることがあったと思います。
そんとき、「全部0.5kgでいいじゃねぇか、なんでまどろっこしく書くんだよ」
って思いませんでしたか？
実はこれ、有効数字が絡んでいるんです。
0.50は有効数字2桁、0.500は有効数字3桁ですね。
さっきの説明で行くと、有効数字は m+1番目を四捨五入した値ですので
0.495 ≦ 0.50 ＜ 0.505
0.4995 ≦ 0.500 ＜ 0.5005
であるのは、お分かりでしょうか。
要するに、0.500の方がより0.5に近い値、精密な値だということです。
人間は、重さをきっかり完璧に正確に量ることはできません。
その他のものもムリでしょう。
電子てんびんがあるじゃないかと思ってるかもしれませんが、
あれだって、小数点以下第何位かを四捨五入した値
つまり、有効数字に過ぎないんです。
だから、もしかしたら、
あなたが肉屋で肉を買うときに
もしかしたら、0.006g損してるかもしれない。
0.003g得してるかもしれない。
でも、そんなことは普通気にしませんよね。
2kg、10kgからすれば、取るに足りない小さな数字です。
数学なんかは想像上の世界なので、この小さな数字でも取り扱いますが、
物理・化学では、こういう取るに足りない値は、無視して考えます。
このことを近似と言います。
有効数字はこの近似の1つなんですね。
取るに足りないといっても
「1.00000001」の「0.00000001」は取るに足りませんが
「0.00000001」の「0.00000001」は重要ですよ。
今までの話を踏まえれば分かるとは思いますが…
出直してきます(o；ω；o)