誤差

正規化

　有効数字の桁数を最大にすることで、より詳しい数値を表せる

誤差

　コンピュータの内部では、２進数のあらかじめ決められた桁数で値を表現する為、実際の値を正確に表せない場合がある。その為、正確に表せない値は、決められた桁数の中で表現できる近似値に置き換えられる。このように、実際の値とコンピュータが取り扱う値に生じる差のことを誤差という。

●丸め誤差

　限られた桁数の範囲で数値を表す際に、四捨五入や切上げ、切捨てなどを行うことで発生する誤差。

●打切り誤差

　計算を途中で打ち切ることによって生じる誤差

例）円周率

●情報落ち

　絶対値の大きな値と絶対値の小さな値の足し算や引き算を行った時に、小さな値の桁情報が無視されてしまい、計算結果に反映されないために生じる誤差。

●桁落ち

　絶対値のほぼ等しい2つの数の引き算を行った時に、有効桁数が減少するために発生する誤差。

●桁あふれ

　計算結果の桁数がコンピュータが扱えるビット数を超えることによって発生する誤差。ビット値の最大値を上回る桁あふれをオーバーフロー、最小値を下回る桁あふれをアンダーフローという。