コトバンクはYahoo!辞書と技術提携しています。

固定小数点数 コテイショウスウテンスウ

デジタル大辞泉の解説

こていしょうすうてん‐すう〔コテイセウスウテン‐〕【固定小数点数】

小数点の位置を固定して表現された数。コンピューターにおいては、あたかも整数値のように扱うことで処理が容易で高速になるが、絶対値が大きく異なる数同士の計算には向かない。→浮動小数点数

出典 小学館デジタル大辞泉について 情報 | 凡例

IT用語がわかる辞典の解説

こていしょうすうてんすう【固定小数点数】

コンピューターで数値を扱う際の表現方式のひとつ。小数点の位置が固定され、整数部と小数部の桁数があらかじめ決められている。浮動小数点数に比べて扱える数値の範囲が狭いが、演算速度は速い。◇「固定小数点形式」などともいう。

出典 講談社IT用語がわかる辞典について 情報

固定小数点数の関連キーワード固定小数点演算浮動小数点数型固定小数点型固定小数点タグ

今日のキーワード

いい夫婦の日

11月22日。通商産業省(現経済産業省)が制定。パートナーへの感謝の意を示し、絆を深める。...

続きを読む

コトバンク for iPhone

コトバンク for Android