コトバンクはYahoo!辞書と技術提携しています。

打ち切り誤差 うちきりごさ

ASCII.jpデジタル用語辞典の解説

打ち切り誤差

演算処理を中断することで生じる誤差。たとえば、数式を繰り返し実行する処理を中断した場合に、本来得られる値との間に生じる誤差をいう。

出典|ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について | 情報

IT用語がわかる辞典の解説

うちきりごさ【打ち切り誤差】

コンピューターによる数値計算で見られる誤差のひとつ。演算を繰り返すことで精度が高くなる計算処理が、途中で打ち切られることにより生じる。

出典|講談社IT用語がわかる辞典について | 情報

打ち切り誤差の関連キーワードコンピューター

今日のキーワード

かりゆし

1 沖縄方言で「縁起がよいこと」「めでたいこと」を表す語。2 「かりゆしウエア」の略。...

続きを読む

コトバンク for iPhone

コトバンク for Android