1-2.離散数学

数値の表現


★固定小数点数



0 0 0 1 0 0 0 1 0 1 1 0
                             .←小数点の位置

0+0+0+4+0+0+0+0.25+0+0.0625+0.03125+0

=4.34375



★浮動小数点数

・表現方法

単精度浮動小数点数
符号
(Sign)
1ビット
指数部
(Exponent)
8ビット
仮数部
(Mantissa)
23ビット

倍精度浮動小数点数
符号
(Sign)
1ビット
指数部
(Exponent)
11ビット
仮数部
(Mantissa)
52ビット



・10進数実数から2進浮動小数

求め方
・10進数⇒2進数に変換
・1.xxx (×2の〇乗)になるように正規化
・0x7Fに〇部分を加算(指数部)
・xxxから仮数部を求める。


ex)10←10進数

10を2進数に変換 ⇒1010(0xA)
正規化実施    ⇒1.01×2の3乗
指数部      ⇒0x7F + 3 =0x82
仮数部      ⇒1010 0000 0000 0000 0000 0000
符号       ⇒0010 0000 0000 0000 0000 0000
仮数部      ⇒ 2  0  0  0  0  0


符号=0
指数部=82
仮数部⇒200000


★仮数・指数・基数


浮動小数点数の一部で、有効数字を構成する部分

999 × 10^-5


999⇒仮数
10⇒基数
  • 5⇒指数


★BCD(Binary Coded Decimal:2進化10進数)

10進数の一桁を2進数の4桁で表したもの

10進数 BCD
0 0000
1 0001
2 0010
3 0011
4 0100
5 0101
6 0110
7 0111
8 1000
9 1001
10 0001 0000


★パック10進数

・10進数の1桁を4桁の数値ビットで表現
・数値の末尾に符号ビットを追加する
・正の数(1100)、負の数(1101)

ex)バック10進数の10

0000 0001 0000 1100




【前へ】1-1.離散数学 【次へ】1-3.離散数学



  • 最終更新:2017-08-07 22:36:29

このWIKIを編集するにはパスワード入力が必要です

認証パスワード