浮動小数点表現(読み)ふどうしょうすうてんひょうげん

世界大百科事典(旧版)内の浮動小数点表現の言及

【数の表現】より

…小数点の右は四捨五入(二進法では0捨1入)して,23(52)ビットに丸めて仮数の表現とする。IEEEの規格のみならず,一般に元の値の小数点は仮数の小数点に対して浮動的なので,実数の表現を浮動小数点表現と言う。また,無限小数を一定のビット数に収めるため丸めるが,このため与えられた浮動小数点データは,初めから分かっている特別な場合を除いて,ある程度の誤差を含むと考えるべきである。…

※「浮動小数点表現」について言及している用語解説の一部を掲載しています。

出典|株式会社平凡社「世界大百科事典(旧版)」

今日のキーワード

苦肉の策

敵を欺くために、自分の身や味方を苦しめてまで行うはかりごと。また、苦しまぎれに考え出した手立て。苦肉の謀はかりごと。「苦肉の策を講じる」...

苦肉の策の用語解説を読む

コトバンク for iPhone

コトバンク for Android