コトバンクはYahoo!辞書と技術提携しています。

固定小数点演算 こていしょうすうてんえんざん

ASCII.jpデジタル用語辞典の解説

固定小数点演算

コンピューターで用いられる演算方式。固定小数点とは、小数点をある位置に固定して表現すること。たとえば、整数の場合であれば、数値の最下位桁の右側に小数点を固定し、演算を行う。

出典|ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について | 情報

デジタル大辞泉の解説

こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】

小数点の位置が固定された固定小数点数を用いて行う四則演算コンピューターにおいては、扱う数の絶対値の範囲が限られている計算に用いられ、あたかも整数値のように扱うことで処理が容易になり、高速で計算できる。→浮動小数点演算
[補説]例えば「1500×0.06」という乗算の場合、いったん「1500×6=9000」と整数化して計算したのち、小数点以下の桁数(2桁)から小数点の位置(左に2桁ずれる)を決めて「90」を得る。コンピューターでの実際の演算処理は二進法で行われる。

出典|小学館デジタル大辞泉について | 情報 凡例

IT用語がわかる辞典の解説

こていしょうすうてんえんざん【固定小数点演算】

「固定小数点数」の別称。⇒固定小数点数

出典|講談社IT用語がわかる辞典について | 情報

固定小数点演算の関連キーワードコマーシャルミックス固定小数点数型補説

今日のキーワード

処暑

二十四節気の一つ。元来,太陰太陽暦の7月中 (7月後半) のことで,太陽の黄経が 150°に達した日 (太陽暦の8月 23日か 24日) に始り,白露 (9月8日か9日) の前日までの約 15日間であ...

続きを読む

コトバンク for iPhone

コトバンク for Android

固定小数点演算の関連情報