固定小数点演算(読み)こていしょうすうてんえんざん

  • こていしょうすうてんえんざん〔コテイセウスウテン〕

デジタル大辞泉の解説

小数点の位置が固定された固定小数点数を用いて行う四則演算コンピューターにおいては、扱う数の絶対値の範囲が限られている計算に用いられ、あたかも整数値のように扱うことで処理が容易になり、高速で計算できる。→浮動小数点演算
[補説]例えば「1500×0.06」という乗算の場合、いったん「1500×6=9000」と整数化して計算したのち、小数点以下の桁数(2桁)から小数点の位置(左に2桁ずれる)を決めて「90」を得る。コンピューターでの実際の演算処理は二進法で行われる。

出典 小学館デジタル大辞泉について 情報 | 凡例

今日のキーワード

ソーシャル・ディスタンシング

感染症の予防戦略の一つで、有効な治療薬や予防薬などがない重大な感染症が国や地域に侵入した場合に、人の移動や社会・経済活動に制限を加えて、人同士の接触を減らす取り組みのこと。例えば、学校・保育施設の一時...

続きを読む

コトバンク for iPhone

コトバンク for Android