浮動小数点演算(読み)フドウショウスウテンエンザン

デジタル大辞泉 「浮動小数点演算」の意味・読み・例文・類語

ふどうしょうすうてん‐えんざん〔フドウセウスウテン‐〕【浮動小数点演算】

小数点の位置が固定されない浮動小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値が大きく異なっていても任意の誤差の範囲内で計算できるため、科学計算に向く。→固定小数点演算
[補説]例えば「1500×0.06」という乗算の場合、浮動小数点数で表現すると「1.5×103」×「6×10-2」となり、仮数部の積「1.5×6」と指数部の積「103×10-2」を分けて計算し、「9」×「101」すなわち「90」が得られる。コンピューターでの実際の演算処理は二進法で行われる。

出典 小学館デジタル大辞泉について 情報 | 凡例

1 《木を吹き枯らすものの意》秋の末から冬の初めにかけて吹く強く冷たい風。《季 冬》「海に出て―帰るところなし/誓子」2 すりこぎをいう近世女性語。[補説]「凩」は国字。[補説]作品名別項。→木枯らし...

木枯らしの用語解説を読む