通信用語の基礎知識 全国のICカードこれひとつ 戻る

通常PC用 / 人気 更新 今日 カテ
自然科学 > 数学 > 計算
丸め誤差
辞書:科学用語の基礎知識 算数・数学編 (NMATH)
読み:まるめごさ
品詞:名詞

コンピューターにおける演算で、小数点以下の小さな値を丸めて計算した結果、本来期待される正しい値とわずかにずれる現象のこと。

概要

10進数では有限小数であっても、2進数(基数が2)では無限小数となり、内部で正確に値を表現できないことがある。

このような場合、設計上の桁数以上の精度の値は端数として処理され、四捨五入、切り上げ、切り捨てといったような処理が2進数で行なわれる。

このため、計算結果は、10進数で計算した場合には起こりえない誤差が生じることになる。

リンク
関連する用語
任意精度

[再検索] [戻る]


通信用語の基礎知識検索システム WDIC Explorer Ver 7.03 (16-May-2019)
Search System : Copyright © Mirai corporation
Dictionary : Copyright © WDIC Creators club
KisoDic