コトバンクはYahoo!辞書と技術提携しています。

桁落ち けたおち

2件 の用語解説(桁落ちの意味・用語解説を検索)

ASCII.jpデジタル用語辞典の解説

桁落ち

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。

出典|ASCII.jpデジタル用語辞典
それぞれの用語は執筆時点での最新のもので、常に最新の内容であることを保証するものではありません。

デジタル大辞泉の解説

けた‐おち【桁落ち】

コンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算(符号が異なる場合は加算)した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得られる場合がある。

出典|小学館 この辞書の凡例を見る
監修:松村明
編集委員:池上秋彦、金田弘、杉崎一雄、鈴木丹士郎、中嶋尚、林巨樹、飛田良文
編集協力:曽根脩
(C)Shogakukan Inc.
それぞれの用語は執筆時点での最新のもので、常に最新の内容であることを保証するものではありません。

桁落ちの関連キーワード固定小数点演算浮動小数点演算固定小数点数浮動小数点浮動小数点演算ユニット浮動小数点数浮動小数点数演算装置浮動小数点型浮動小数点形式

今日のキーワード

信長協奏曲(コンツェルト)

石井あゆみによる漫画作品。戦国時代にタイムスリップした現代の高校生が病弱な織田信長の身代わりとして生きていく姿を描く。『ゲッサン』2009年第1号から連載開始。小学館ゲッサン少年サンデーコミックス既刊...

続きを読む

コトバンク for iPhone