コンピュータで数値計算を実施する場合に、誤差が生じることがある。いま、0.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると、1にならなかった原因の誤差として最も適切なものはどれか。なお、コンピュータ内部では数値を2進数で扱っており、0.01は2進数では循環小数で表現するものとする。
① 丸め誤差
② 情報落ち誤差
③ 桁落ち誤差
④ オーバーフロー
⑤ 打切り誤差
①
① 正しい。丸め誤差は、指定された有効桁数で演算結果を表すために、切捨て、切上げ、四捨五入などで下位の桁を削除することによって発生する誤差のことである。
② 情報落ちは、絶対値の非常に大きな数値と小さな数値の加算や減算を行ったとき、小さい数値が計算結果に反映されないことによって発生する誤差のことである。
③ 桁落ちは、浮動小数点演算で加算や減算を行う場合に、計算結果が0に近くなり、有効桁数が極端に減少することである。
④ オーバーフローは、扱える数値範囲の最大値を超えてしまうことである。
⑤ 打ち切り誤差は、無限級数で表される数値の計算処理を有限項で打ち切ったことによって発生する誤差のことである。0.01は2進数では循環小数で表現するため、打切り誤差には該当しない。
| Ⅲ－９ | 目次 | Ⅲ－１１ |