固定小数点方式(読み)こていしょうすうてんほうしき(英語表記)fixed-point representation

ブリタニカ国際大百科事典 小項目事典 「固定小数点方式」の意味・わかりやすい解説

固定小数点方式
こていしょうすうてんほうしき
fixed-point representation

1語の中における数値小数点の位置が定められている数値の表現方式をいう。大きな数,小さな数の場合には,プログラムによってあらかじめ桁送りを行い,有効数値が1語の中に入るように配慮する必要があり,プログラムは非常にめんどうになる。桁送りによる影響の補正はプログラムによって行わなければならない。通常は小数点の位置を語の左端おき,常に1以下の大きさの数値を扱う。これに対して浮動小数点方式 floating-point representationはこのようなめんどうさをなくした方式で,1つの数 nn=±m×re と表わす (ここに m は仮数と呼ばれる有効数字r は基数,e整数である) 。 m は1以下の数で,小数点以下1桁目に0でない数値がくるように e を調整する。演算をしたあとも常にこのような形にすることによって有効数字を失わず,大きな数,小さな数を同時に扱うことができる。

出典 ブリタニカ国際大百科事典 小項目事典ブリタニカ国際大百科事典 小項目事典について 情報

今日のキーワード

自動車税・軽自動車税

自動車税は自動車(軽自動車税の対象となる軽自動車等および固定資産税の対象となる大型特殊自動車を除く)の所有者に対し都道府県が課する税であり、軽自動車税は軽自動車等(原動機付自転車、軽自動車、小型特殊自...

自動車税・軽自動車税の用語解説を読む

コトバンク for iPhone

コトバンク for Android