コトバンクはYahoo!辞書と技術提携しています。

桁落ち けたおち

2件 の用語解説(桁落ちの意味・用語解説を検索)

ASCII.jpデジタル用語辞典の解説

桁落ち

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。

出典|ASCII.jpデジタル用語辞典
ASCII.jpデジタル用語辞典について | 情報

デジタル大辞泉の解説

けた‐おち【桁落ち】

コンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算(符号が異なる場合は加算)した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得られる場合がある。

出典|小学館
デジタル大辞泉について | 情報 凡例

今日のキーワード

稀勢の里寛

1986- 平成時代の力士。昭和61年7月3日生まれ。中学卒で鳴戸部屋に入門し,平成14年3月初土俵。16年5月新十両,同年11月には18歳4ヵ月で新入幕をはたす。18年7月新三役小結,21年3月新関...

続きを読む

コトバンク for iPhone