コトバンクはYahoo!辞書と技術提携しています。

丸め誤差 まるめごさ

ASCII.jpデジタル用語辞典の解説

丸め誤差

丸めによって生じる誤差のこと。たとえば、1.23という数値を1.2に丸めた場合、0.03の丸め誤差が生じたことになる。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

IT用語がわかる辞典の解説

まるめごさ【丸め誤差】

コンピューターによる数値計算で見られる誤差のひとつ。切り上げや切り下げ、四捨五入など、ある桁数以上の数値を端数として省略することで生じる。

出典 講談社IT用語がわかる辞典について 情報

世界大百科事典内の丸め誤差の言及

【数値計算】より

… 数値計算では,計算中に用いるデータも,結果のデータも浮動小数点表現を用いるから,常にある誤差をもって得られる。この誤差は,計算機の記憶装置が有限の長さであるために発生するもので,丸め誤差と呼ばれる。もう一つの重要な誤差は,無限の項を集めなければ真の値にならないのに,実際問題として有限の項しか集められない,あるいは,無限回の反復を行わなければ真の値にならないのに,実際には有限回に止めざるをえない,そのために発生する誤差である。…

※「丸め誤差」について言及している用語解説の一部を掲載しています。

出典|株式会社平凡社世界大百科事典 第2版について | 情報

丸め誤差の関連キーワード数値積分法誤差解析

今日のキーワード

グランピング

「グラマラス(Glamorous)」と「キャンピング(Camping)」を掛け合わせた造語で、ホテル並みの設備やサービスを利用しながら、自然の中で快適に過ごすキャンプのこと。従来型のキャンプとは一線を...

続きを読む

コトバンク for iPhone

コトバンク for Android