固定小数点数(読み)コテイショウスウテンスウ

デジタル大辞泉 「固定小数点数」の意味・読み・例文・類語

こていしょうすうてん‐すう〔コテイセウスウテン‐〕【固定小数点数】

小数点位置を固定して表現された数。コンピューターにおいては、あたかも整数値のように扱うことで処理が容易で高速になるが、絶対値が大きく異なる数同士の計算には向かない。→浮動小数点数

出典 小学館デジタル大辞泉について 情報 | 凡例

IT用語がわかる辞典 「固定小数点数」の解説

こていしょうすうてんすう【固定小数点数】

コンピューターで数値を扱う際の表現方式のひとつ。小数点の位置が固定され、整数部と小数部の桁数があらかじめ決められている。浮動小数点数に比べて扱える数値の範囲が狭いが、演算速度は速い。◇「固定小数点形式」などともいう。

出典 講談社IT用語がわかる辞典について 情報

今日のキーワード

苦肉の策

敵を欺くために、自分の身や味方を苦しめてまで行うはかりごと。また、苦しまぎれに考え出した手立て。苦肉の謀はかりごと。「苦肉の策を講じる」...

苦肉の策の用語解説を読む

コトバンク for iPhone

コトバンク for Android