コトバンクはYahoo!辞書と技術提携しています。

打(ち)切(り)誤差 ウチキリゴサ

デジタル大辞泉の解説

うちきり‐ごさ【打(ち)切(り)誤差】

途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち切った際に生じる。

出典|小学館デジタル大辞泉について | 情報 凡例