桁落ち(読み)ケタオチ

デジタル大辞泉 「桁落ち」の意味・読み・例文・類語

けた‐おち【桁落ち】

コンピューター浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算符号が異なる場合は加算)した時に、有効桁数が減少する現象計算順序を工夫することで、より正しい計算結果を得られる場合がある。

出典 小学館デジタル大辞泉について 情報 | 凡例

ASCII.jpデジタル用語辞典 「桁落ち」の解説

桁落ち

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

大臣政務官

各省の長である大臣,および内閣官房長官,特命大臣を助け,特定の政策や企画に参画し,政務を処理する国家公務員法上の特別職。政務官ともいう。2001年1月の中央省庁再編により政務次官が廃止されたのに伴い,...

大臣政務官の用語解説を読む

コトバンク for iPhone

コトバンク for Android