← 基本情報 道場

出題範囲 › 第 1 章 基礎理論

誤差の種類

コンピュータの計算で生じる 5 つの誤差(桁あふれ・情報落ち・桁落ち・打切り・丸め)を、場面を見て即座に見分けられるようにする。

先に学ぶ知識点:固定小数点と浮動小数点(IEEE754)

解説(冒頭)

コンピュータは有限のビット数で数を表すため、すべての数を完璧には表せません。本当の値とのズレを誤差といいます。
試験では「どの誤差の説明か」を選ばせる問題が定番。5 つの名前と場面をセットで覚えましょう。

誤差何が起きる?例
桁あふれ誤差扱える最大値・最小値の範囲を超える8 ビット符号付きで 100 + 50(127 を超える)
情報落ち大きい数と小さい数の加減算で、小さい数が結果に反映されない1.0×10¹⁰ + 1.0×10⁻¹⁰ ≒ 1.0×10¹⁰
桁落ち値がほぼ等しい数どうしの引き算で、有効数字が大きく減る1.2345 − 1.2344 = 0.0001(有効数字 5 桁 → 1 桁)
打切り誤差無限に続く計算を途中で打ち切る円周率や無限級数を有限項で止める
丸め誤差表せない桁を切上げ・切捨て・四捨五入する0.1 を2進数の有限桁で表す

5 つの誤差

この続き:解説の残り・インタラクティブ教材 2 個・練習問題は、ログインして学べます。

基本情報 道場で続きを学ぶ →

← 固定小数点と浮動小数点(IEEE754) 論理演算・ベン図・真理値表 →