1-3.離散数学
(3)算術演算と制度
★論理シフト
符号なし2進数を取り扱う。
・左シフト
0 | 0 | 1 | 1 | 0 | 0 | 1 | 0 |
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
0 | 1 | 1 | 0 | 0 | 1 | 0 | 0 |
・右シフト
0 | 0 | 1 | 1 | 0 | 0 | 1 | 0 |
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
0 | 0 | 0 | 1 | 1 | 0 | 0 | 1 |
★算術シフト
符号ビットを持つ符号付きの正負の数を扱う
・左シフト
↓符号ビット(0:正、1:負)
1 | 0 | 1 | 1 | 0 | 0 | 1 | 0 |
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
1 | 1 | 1 | 0 | 0 | 1 | 0 | 0 |
・右シフト
1 | 0 | 1 | 1 | 0 | 0 | 1 | 0 |
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
↓ ↓ ↓ ↓ ↓ ↓ ↓
1 | 1 | 0 | 1 | 1 | 0 | 0 | 1 |
★桁落ち
値がほぼ等しくかつ丸め誤差を持つ数値同士の減算で、有効数字が減少すること
0.556×10^7-0.552×10^7=0.400×10^5
★情報落ち
絶対値の大きい数と絶対値の小さい数の加減算の結果、絶対値の小さい数が無視される現象
有効桁数8桁の場合
2×10^8+1=2×10^8
★丸め誤差
切り捨て、切り上げ、四捨五入などで有効桁数未満の桁を削除することによって発生する誤差
★打切り誤差
無限級数で表現される数値を有限項の計算で打ち切った場合の誤差
★オーバーフロー(桁あふれ)
演算結果が扱える数値の上限を超えた場合に発生する現象
★アンダーフロー
コンピュータで実数の計算をした結果の絶対値が小さすぎて正確に表現・計算ができなくなってしまうこと
- 最終更新:2017-08-07 22:37:13