桁落ち(読み)ケタオチ

デジタル大辞泉 「桁落ち」の意味・読み・例文・類語

けた‐おち【桁落ち】

コンピューター浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算符号が異なる場合は加算)した時に、有効桁数が減少する現象計算順序を工夫することで、より正しい計算結果を得られる場合がある。

出典 小学館デジタル大辞泉について 情報 | 凡例

ASCII.jpデジタル用語辞典 「桁落ち」の解説

桁落ち

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

焦土作戦

敵対的買収に対する防衛策のひとつ。買収対象となった企業が、重要な資産や事業部門を手放し、買収者にとっての成果を事前に減じ、魅力を失わせる方法である。侵入してきた外敵に武器や食料を与えないように、事前に...

焦土作戦の用語解説を読む

コトバンク for iPhone

コトバンク for Android