← 基本情報 道場

出題範囲 › 第 1 章 基礎理論

固定小数点と浮動小数点(IEEE754)

固定小数点は小数点の位置が決まっている表し方、浮動小数点は「仮数 × 2^指数」で小数点を動かせる表し方。IEEE754 単精度は 符号 1・指数 8(バイアス 127)・仮数 23 ビット。10進数から 32 ビットを組み立てられるようにする。

先に学ぶ知識点:2・8・16進数の相互変換、論理シフト

解説(冒頭)

固定小数点形式:小数点の位置を「何ビット目と何ビット目の間」と決めておく。整数を扱うのに向き、TH-07 の「−3.375 を 8 ビット固定小数点で」がこの例です。
浮動小数点形式:10進数の 1.234 × 10³ のように、有効数字(仮数)と桁の位置(指数)に分けて持つ。とても大きな数も小さな数も表せます。

部分ビット数中身
符号部1正 0 / 負 1
指数部8指数 + 127(バイアス)
仮数部23正規化した 1.xxx の xxx 部分(先頭の 1 は書かない)

IEEE754 単精度(32 ビット)

この続き:解説の残り・インタラクティブ教材 1 個・例題 1 問・練習問題は、ログインして学べます。

基本情報 道場で続きを学ぶ →

← シフトと加算による掛け算 誤差の種類 →