Ｃ言語を用いて実験データ処理用のプログラムを作成する。いま、double型変数 a、b に2つの測定データが格納されている。a、b の値はともに有効桁数が7桁あり、それぞれ次の範囲内にあることがわかっている。
3 < a < 3.0001 2.9999 < b < 3
次の演算を行ったときに、もとのa、b と比べて演算結果の有効桁数が最も失われるものはどれか。
① a + b
② a - b
③ a * b
④ a / b
⑤ sqrt (a * a + b * b)
②
例えば a = 3.000001、b = 2.999999 として計算すると
① a + b = 6.000000
② a - b = 0.000002
③ a * b = 8.999999
④ a / b = 1.000001
⑤ sqrt (a * a + b * b) = 4.242641
②以外は有効桁数が7桁のままであるが、②は有効桁が1桁となる。このように有効桁数が極端に失われることを桁落ちという。
| Ⅲ－６ | 目次 | Ⅲ－８ |