丸め誤差(読み)マルメゴサ

デジタル大辞泉 「丸め誤差」の意味・読み・例文・類語

まるめ‐ごさ【丸め誤差】

rounding error四捨五入切り上げ切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい計算結果を得るためには、プログラム工夫などが必要となる。

出典 小学館デジタル大辞泉について 情報 | 凡例

IT用語がわかる辞典 「丸め誤差」の解説

まるめごさ【丸め誤差】

コンピューターによる数値計算で見られる誤差のひとつ。切り上げや切り下げ、四捨五入など、ある桁数以上の数値を端数として省略することで生じる。

出典 講談社IT用語がわかる辞典について 情報

ASCII.jpデジタル用語辞典 「丸め誤差」の解説

丸め誤差

丸めによって生じる誤差のこと。たとえば、1.23という数値を1.2に丸めた場合、0.03の丸め誤差が生じたことになる。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

世界大百科事典(旧版)内の丸め誤差の言及

【数値計算】より

… 数値計算では,計算中に用いるデータも,結果のデータも浮動小数点表現を用いるから,常にある誤差をもって得られる。この誤差は,計算機の記憶装置が有限の長さであるために発生するもので,丸め誤差と呼ばれる。もう一つの重要な誤差は,無限の項を集めなければ真の値にならないのに,実際問題として有限の項しか集められない,あるいは,無限回の反復を行わなければ真の値にならないのに,実際には有限回に止めざるをえない,そのために発生する誤差である。…

※「丸め誤差」について言及している用語解説の一部を掲載しています。

出典|株式会社平凡社「世界大百科事典(旧版)」

今日のキーワード

脂質異常症治療薬

血液中の脂質(トリグリセリド、コレステロールなど)濃度が基準値の範囲内にない状態(脂質異常症)に対し用いられる薬剤。スタチン(HMG-CoA還元酵素阻害薬)、PCSK9阻害薬、MTP阻害薬、レジン(陰...

脂質異常症治療薬の用語解説を読む

コトバンク for iPhone

コトバンク for Android