通信用語の基礎知識 全国のICカードこれひとつ 戻る

通常PC用 / 人気 更新 今日 カテ
自然科学 > 数学 > 計算 > 数・数表記法
数値表現
辞書:科学用語の基礎知識 算数・数学編 (NMATH)
読み:すうちひょうげん
品詞:名詞

コンピューター内部において、数値をどのように表現するかという実装方法。

目次
概要

現在の一般的な民生用コンピューターでは、計算機と処理速度の都合から、大きく整数と浮動小数点数に分けられており、必要に応じて使い分けられている。

また、処理速度を犠牲にしてでも膨大な桁数や高精度の小数演算などをする必要がある場合は、演算をハードウェアに任せず、ソフトウェアで演算処理を実装することもある。

この一例が任意精度演算である。

特徴
整数

ビット/ニブル/オクテットはビット長が決まっているが、バイトとワードに関する表現は実装により大きく差が存在する。

小数
リンク
用語の所属
数値
関連する用語
IEEE 754

[再検索] [戻る]


通信用語の基礎知識検索システム WDIC Explorer Ver 7.03 (16-May-2019)
Search System : Copyright © Mirai corporation
Dictionary : Copyright © WDIC Creators club
KisoDic