通信用語の基礎知識 IPv4
戻る
全国のICカードこれひとつ

丸め誤差

辞書:科学用語の基礎知識 算数・数学編 (NMATH)
読み:まるめごさ
品詞:名詞
2013/03/13 作成

コンピューターにおける演算で、小数点以下の小さな値を丸めて計算した結果、本来期待される正しい値とわずかにずれる現象のこと。

10進数では有限小数であっても、2進数(基数が2)では無限小数となり、内部で正確に値を表現できないことがある。

このような場合、設計上の桁数以上の精度の値は端数として処理され、四捨五入、切り上げ、切り捨てといったような処理が2進数で行なわれる。

このため、計算結果は、10進数で計算した場合には起こりえない誤差が生じることになる。

関連する用語
任意精度

コメントなどを投稿するフォームは、日本語対応時のみ表示されます


KisoDic通信用語の基礎知識検索システム WDIC Explorer Version 7.03 (16-May-2019)
Search System : Copyright © Mirai corporation
Dictionary : Copyright © WDIC Creators club