コトバンクはYahoo!辞書と技術提携しています。

打切り誤差 うちきりごさ

世界大百科事典内の打切り誤差の言及

【数値計算】より

…もう一つの重要な誤差は,無限の項を集めなければ真の値にならないのに,実際問題として有限の項しか集められない,あるいは,無限回の反復を行わなければ真の値にならないのに,実際には有限回に止めざるをえない,そのために発生する誤差である。これは打切り誤差と呼ばれる。一般に,所望の誤差が小であるほど,答を得るための計算量は多くなり,長時間を要する。…

※「打切り誤差」について言及している用語解説の一部を掲載しています。

出典|株式会社日立ソリューションズ・クリエイト世界大百科事典 第2版について | 情報