数値表現

読み:すうちひょうげん
品詞:名詞

コンピューター内部において、数値をどのように表現するかという実装方法。

目次

現在の一般的な民生用コンピューターでは、計算機と処理速度の都合から、大きく整数と浮動小数点数に分けられており、必要に応じて使い分けられている。

また、処理速度を犠牲にしてでも膨大な桁数や高精度の小数演算などをする必要がある場合は、演算をハードウェアに任せず、ソフトウェアで演算処理を実装することもある。

この一例が任意精度演算である。

整数

ビット/ニブル/オクテットはビット長が決まっているが、バイトとワードに関する表現は実装により大きく差が存在する。

用語の所属
数値
関連する用語
IEEE 754

コメントなどを投稿するフォームは、日本語対応時のみ表示されます


KisoDic通信用語の基礎知識検索システム WDIC Explorer Version 7.04a (27-May-2022)
Search System : Copyright © Mirai corporation
Dictionary : Copyright © WDIC Creators club