浮動小数点演算(読み)フドウショウスウテンエンザン

デジタル大辞泉 「浮動小数点演算」の意味・読み・例文・類語

ふどうしょうすうてん‐えんざん〔フドウセウスウテン‐〕【浮動小数点演算】

小数点位置が固定されない浮動小数点数を用いて行う四則演算コンピューターにおいては、扱う数の絶対値が大きく異なっていても任意の誤差の範囲内で計算できるため、科学計算に向く。→固定小数点演算
[補説]例えば「1500×0.06」という乗算の場合、浮動小数点数で表現すると「1.5×103」×「6×10-2」となり、仮数部の積「1.5×6」と指数部の積「103×10-2」を分けて計算し、「9」×「101」すなわち「90」が得られる。コンピューターでの実際の演算処理二進法で行われる。

出典 小学館デジタル大辞泉について 情報 | 凡例

ASCII.jpデジタル用語辞典 「浮動小数点演算」の解説

浮動小数点演算

コンピューターの数値演算方式のひとつ。浮動小数点とは、コンピューター内部での小数を扱う方法のひとつで、数値を仮数部と指数部と呼ばれる部分に分けて表現する。コンピューターでは、データの種類ごとにデータのサイズが固定されているため、計算結果が決められた桁数を超えてしまうと表現できなくなる。そこで、桁数の大きな数値を扱うために浮動小数点方式が用いられる。浮動小数点演算は、通常の演算に比べて処理に時間がかかるので、コンピューターの性能を評価するベンチマークに使われることが多い。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

脂質異常症治療薬

血液中の脂質(トリグリセリド、コレステロールなど)濃度が基準値の範囲内にない状態(脂質異常症)に対し用いられる薬剤。スタチン(HMG-CoA還元酵素阻害薬)、PCSK9阻害薬、MTP阻害薬、レジン(陰...

脂質異常症治療薬の用語解説を読む

コトバンク for iPhone

コトバンク for Android