桁落ち(読み)ケタオチ

デジタル大辞泉 「桁落ち」の意味・読み・例文・類語

けた‐おち【桁落ち】

コンピューター浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算符号が異なる場合は加算)した時に、有効桁数が減少する現象計算順序を工夫することで、より正しい計算結果を得られる場合がある。

出典 小学館デジタル大辞泉について 情報 | 凡例

ASCII.jpデジタル用語辞典 「桁落ち」の解説

桁落ち

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

仕事納

〘 名詞 〙 年の暮れに、その年の仕事を終えること。また、その日。《 季語・冬 》[初出の実例]「けふは大晦日(つごもり)一年中の仕事納(オサ)め」(出典:浄瑠璃・新版歌祭文(お染久松)(1780)油...

仕事納の用語解説を読む

コトバンク for iPhone

コトバンク for Android