コトバンクはYahoo!辞書と技術提携しています。

浮動小数点演算 フドウショウスウテンエンザン

2件 の用語解説(浮動小数点演算の意味・用語解説を検索)

ASCII.jpデジタル用語辞典の解説

浮動小数点演算

コンピューターの数値演算方式のひとつ。浮動小数点とは、コンピューター内部での小数を扱う方法のひとつで、数値を仮数部と指数部と呼ばれる部分に分けて表現する。コンピューターでは、データの種類ごとにデータのサイズが固定されているため、計算結果が決められた桁数を超えてしまうと表現できなくなる。そこで、桁数の大きな数値を扱うために浮動小数点方式が用いられる。浮動小数点演算は、通常の演算に比べて処理に時間がかかるので、コンピューターの性能を評価するベンチマークに使われることが多い。

出典|ASCII.jpデジタル用語辞典
それぞれの用語は執筆時点での最新のもので、常に最新の内容であることを保証するものではありません。

デジタル大辞泉の解説

ふどうしょうすうてん‐えんざん〔フドウセウスウテン‐〕【浮動小数点演算】

小数点の位置が固定されない浮動小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値が大きく異なっていても任意の誤差の範囲内で計算できるため、科学計算に向く。→固定小数点演算
[補説]例えば「1500×0.06」という乗算の場合、浮動小数点数で表現すると「1.5×103」×「6×10-2」となり、仮数部の積「1.5×6」と指数部の積「103×10-2」を分けて計算し、「9」×「101」すなわち「90」が得られる。コンピューターでの実際の演算処理は二進法行われる

出典|小学館 この辞書の凡例を見る
監修:松村明
編集委員:池上秋彦、金田弘、杉崎一雄、鈴木丹士郎、中嶋尚、林巨樹、飛田良文
編集協力:曽根脩
(C)Shogakukan Inc.
それぞれの用語は執筆時点での最新のもので、常に最新の内容であることを保証するものではありません。

浮動小数点演算の関連キーワード固定小数点演算固定小数点形式固定小数点固定小数点数浮動小数点浮動小数点数浮動小数点数演算装置固定小数点型浮動小数点型浮動小数点形式

今日のキーワード

パラチオン、パラチオンメチル

パラチオンは無色で油状の液体、パラチオンメチルはコハク色の液体。ともに毒性が強く、有機リン系殺虫剤として使用された。50年代以降、稲の害虫被害を防ぐことが確認され、広く導入された。しかし、農民の中毒死...

続きを読む

コトバンク for iPhone

浮動小数点演算の関連情報