有効数字について

　高校の物理・化学では有効数字の問題がつきものです。

　例えば、簡単な例で考えると「円周率を３.１４として、半径１.６cmの円の面積を求めよ」という問いがあったとします。　もちろん、面積；S＝1.6＾２×3.14＝８.０３８４と出るのですが、これを有効数字２桁にして、答えは８.０cm＾２としなければならないのです。 なぜでしょうか？・・・続く

　せっかく「８.０３８４」と５桁も細かい数字が出ているのだから、せめて少数第３位を四捨五入して「８.０４」くらいまで生かしたらどうか、と思う方がいるかもしれませんが、「８.０４」と書くと減点の対象になってしまいます。問題分の中の数字が有効数字２桁のもの（１.６）と３桁のもの（３.１４）があるので、答えは有効数字の桁数が小さい方に合わせて「８.０」と書かなければならないのです。その理由は何でしょうか。

　いま、上の問題の有効数字２桁の１.６について考えると、これは「１.６●○○・・・」の●の部分を四捨五入したものだと考えられるので、１.６の６という数字は「疑わしい数字」だということができます。（１.６４・・の４を切り捨てたものかもしれないし、１.５６・・・の６を切り上げたものかもしれないということです）

　この「１.６の６は疑わしい」ということをあらわすために「６」を○で囲って「１.⑥」と表すことにします。すると当然「３.１４」も「３.１④」と表せることになります。

そこで、たとえば「１.⑥×３.１④の計算をしてみることにします」

　　　　３.１④

　　　×）１.⑥

この１段目には３.１４×６＝１８８４が入りますが、実はかける数の６が疑わしいので、１８８４の全てが疑わしい数字である、と言わざるを得ません。すなわち１段目は

　　①⑧⑧④　　となります

　同様にすると２段目は３.１④です

　これらを列を合わせて足し算すると、数字は５.０２４と並びますが①⑧⑧④が全て疑わしいので５.０２４も全て疑わしいということになってしまいます。つまり、頭の５や次の０が疑わしいのにその下の桁の数字を出しても意味がないのです。

　このような理由から、計算上いくら細かな数字が出てきても問題分の中の最もラフな数（桁数の小さいもの）と同じ桁数で答えを四捨五入する、ということにしてあるのです。

　尚、計算の順序しだいでは全く同じ問題でも答えが微妙に違うことがありますが、これも「誤差の範囲内」ということでどちらも正しいということになります。