浮動小数点表現(読み)ふどうしょうすうてんひょうげん

世界大百科事典(旧版)内の浮動小数点表現の言及

【数の表現】より

…小数点の右は四捨五入(二進法では0捨1入)して,23(52)ビットに丸めて仮数の表現とする。IEEEの規格のみならず,一般に元の値の小数点は仮数の小数点に対して浮動的なので,実数の表現を浮動小数点表現と言う。また,無限小数を一定のビット数に収めるため丸めるが,このため与えられた浮動小数点データは,初めから分かっている特別な場合を除いて,ある程度の誤差を含むと考えるべきである。…

※「浮動小数点表現」について言及している用語解説の一部を掲載しています。

出典|株式会社平凡社「世界大百科事典(旧版)」