デジタル大辞泉 「固定小数点演算」の意味・読み・例文・類語 こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】 小数点の位置が固定された固定小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値の範囲が限られている計算に用いられ、あたかも整数値のように扱うことで処理が容易になり、高速で計算できる。→浮動小数点演算[補説]例えば「1500×0.06」という乗算の場合、いったん「1500×6=9000」と整数化して計算したのち、小数点以下の桁数(2桁)から小数点の位置(左に2桁ずれる)を決めて「90」を得る。コンピューターでの実際の演算処理は二進法で行われる。 出典 小学館デジタル大辞泉について 情報 | 凡例 Sponserd by
IT用語がわかる辞典 「固定小数点演算」の解説 こていしょうすうてんえんざん【固定小数点演算】 「固定小数点数」の別称。⇒固定小数点数 出典 講談社IT用語がわかる辞典について 情報 Sponserd by