コトバンクはYahoo!辞書と技術提携しています。

正規化 (浮動小数点) セイキカ

ASCII.jpデジタル用語辞典の解説

正規化 (浮動小数点)

浮動小数点数において、小数点の位置を調節し、その後の計算で発生する誤差を減らすこと。浮動小数点の指数部と仮数部を調節して、できるだけ仮数部の上位桁に0が入らないようにして、誤差を少なくする。たとえば、ある計算の結果が0.00545×10の8乗だった場合、この正規化とは、仮数部を0.1~1の範囲に収めるために0.545×10の6乗に変更することをいう。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

正規化 (浮動小数点)の関連キーワード正規化 (データベース)canonicaliseスペクトル分析標準比視感度グリセリドシャックル浮動小数点直交関数系第一正規形第二正規形第三正規形解放軍報中国演劇規格化雇用

今日のキーワード

いい夫婦の日

11月22日。通商産業省(現経済産業省)が制定。パートナーへの感謝の意を示し、絆を深める。...

続きを読む

コトバンク for iPhone

コトバンク for Android