IT用語がわかる辞典 「打ち切り誤差」の解説 うちきりごさ【打ち切り誤差】 コンピューターによる数値計算で見られる誤差のひとつ。演算を繰り返すことで精度が高くなる計算処理が、途中で打ち切られることにより生じる。 出典 講談社IT用語がわかる辞典について 情報
ASCII.jpデジタル用語辞典 「打ち切り誤差」の解説 打ち切り誤差 演算処理を中断することで生じる誤差。たとえば、数式を繰り返し実行する処理を中断した場合に、本来得られる値との間に生じる誤差をいう。 出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報