More than 3 years have passed since last update.
誤差
コンピュータ内部で、数値を指定されたビットで表現するために、真の値と表現する値との間に発生する差のこと
桁あふれ誤差
演算結果がコンピュータの表現できる範囲を越えることで発生する誤差()
浮動小数点では、限りなく0に近づいて表現しきれなくなるがある。
丸め誤差
桁落ち誤差
情報落ち誤差
多くの数値の加減算を行うとき、絶対値の昇順(小->大)に並べて計算すると 情報落ち誤差を小さくすることができる。
打切り誤差
例として円周率がある。
Register as a new user and use Qiita more conveniently
- You get articles that match your needs
- You can efficiently read back useful information
- You can use dark theme