誤差の種類
コンピュータの計算で生じる 5 つの誤差(桁あふれ・情報落ち・桁落ち・打切り・丸め)を、場面を見て即座に見分けられるようにする。
解説(冒頭)
コンピュータは有限のビット数で数を表すため、すべての数を完璧には表せません。本当の値とのズレを誤差といいます。
試験では「どの誤差の説明か」を選ばせる問題が定番。5 つの名前と場面をセットで覚えましょう。
| 誤差 | 何が起きる? | 例 |
|---|---|---|
| 桁あふれ誤差 | 扱える最大値・最小値の範囲を超える | 8 ビット符号付きで 100 + 50(127 を超える) |
| 情報落ち | 大きい数と小さい数の加減算で、小さい数が結果に反映されない | 1.0×10¹⁰ + 1.0×10⁻¹⁰ ≒ 1.0×10¹⁰ |
| 桁落ち | 値がほぼ等しい数どうしの引き算で、有効数字が大きく減る | 1.2345 − 1.2344 = 0.0001(有効数字 5 桁 → 1 桁) |
| 打切り誤差 | 無限に続く計算を途中で打ち切る | 円周率や無限級数を有限項で止める |
| 丸め誤差 | 表せない桁を切上げ・切捨て・四捨五入する | 0.1 を2進数の有限桁で表す |
この続き:解説の残り・インタラクティブ教材 2 個・練習問題は、ログインして学べます。