固定小数点数・浮動小数点数とは

マトリックス基本情報

固定小数点数と浮動小数点数

固定小数点数

コンピュータは0と1しか表現できないから小数点(.)も表現できません。
よって小数点付きの実数を表すときの特定の位置にある前提での扱い方です。

  • 小数点が2進数で扱う際に何ビット目(何桁目)の位置になるかをあらかじめ、特定の位置に決める方法です。
  • 固定小数点数では先頭のbit で符号を表します。

例)2進数の「101.01」を8ビットの固定小数点数で表現

  • 4桁目の後を小数点の場所と決めます

00101.0100 (4桁目に小数点が固定されます)

符号ビット
正の数は、符号bitが0、負の数は符号bitが1で2の補数を表現します。

  • 6桁目の後を小数点の場所と決めます

0000101.01 (6桁目に小数点が固定されます)

浮動小数点数

一般的に2進数を扱うコンピューターで利用されている。
こちらは固定小数点数で小数点の位置が固定されていた表現できる数値の範囲を広げるための方法です。
範囲を広げるために、指数部仮数部を用いた指数表記を使って数を表します。

    指数部

  • n乗を表す部分です。(下の例では -4 )
  • 仮数部

  • 下の例のような 2.5 を表す部分です。

例)
(0.00035)10は、(3.5× 10-4)10で表現できます。

この表現の方法ですが、仮数部と指数部を変えることで、様々な表現ができます(上の例だと0.35× 10-3でも良い)。この時に、より有効桁を多くとれるように(範囲を広げるために)小数点の位置を調整して、仮数部の最上位桁を0以外の数値にすることを正規化といいます。

コメント

タイトルとURLをコピーしました