正規化 (浮動小数点)(読み)セイキカ

ASCII.jpデジタル用語辞典 「正規化 (浮動小数点)」の解説

正規化 (浮動小数点)

浮動小数点数において、小数点位置を調節し、その後の計算で発生する誤差を減らすこと。浮動小数点の指数部と仮数部を調節して、できるだけ仮数部の上位桁に0が入らないようにして、誤差を少なくする。たとえば、ある計算の結果が0.00545×10の8乗だった場合、この正規化とは、仮数部を0.1~1の範囲に収めるために0.545×10の6乗に変更することをいう。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

焦土作戦

敵対的買収に対する防衛策のひとつ。買収対象となった企業が、重要な資産や事業部門を手放し、買収者にとっての成果を事前に減じ、魅力を失わせる方法である。侵入してきた外敵に武器や食料を与えないように、事前に...

焦土作戦の用語解説を読む

コトバンク for iPhone

コトバンク for Android