More than 3 years have passed since last update.
桁落ち
絶対値のほぼ等しい２つの数の差を計算したとき、上位の相殺により有効桁数が減る現象。
アンダーフロー
最小値を超えること
限りなく０に近い実数によって浮動少数の指数部がパンクして精度が場合に起きるもの。
オーバーフロー
最大値と最小値を超えること
８ビットの固定小数点で最小〜最大の範囲（-128~127)を超える場合どちらもオーバーフロ-という。
(正のオーバーフロー、負のオーバーフローという。)
出典
Register as a new user and use Qiita more conveniently
- You get articles that match your needs
- You can efficiently read back useful information
- You can use dark theme