固定小数点と浮動小数点(IEEE754)
固定小数点は小数点の位置が決まっている表し方、浮動小数点は「仮数 × 2^指数」で小数点を動かせる表し方。IEEE754 単精度は 符号 1・指数 8(バイアス 127)・仮数 23 ビット。10進数から 32 ビットを組み立てられるようにする。
解説(冒頭)
固定小数点形式:小数点の位置を「何ビット目と何ビット目の間」と決めておく。整数を扱うのに向き、TH-07 の「−3.375 を 8 ビット固定小数点で」がこの例です。
浮動小数点形式:10進数の 1.234 × 10³ のように、有効数字(仮数)と桁の位置(指数)に分けて持つ。とても大きな数も小さな数も表せます。
| 部分 | ビット数 | 中身 |
|---|---|---|
| 符号部 | 1 | 正 0 / 負 1 |
| 指数部 | 8 | 指数 + 127(バイアス) |
| 仮数部 | 23 | 正規化した 1.xxx の xxx 部分(先頭の 1 は書かない) |
この続き:解説の残り・インタラクティブ教材 1 個・例題 1 問・練習問題は、ログインして学べます。