【JavaScript】浮動小数点の演算誤差対処法 - Qiita

【JavaScript】浮動小数点の演算誤差対処法 - Qiita

はじめに 小数点を含んだ演算では、演算結果に誤差が生じ、意図した結果が得られないが場合ある。 これ...概要を表示 はじめに 小数点を含んだ演算では、演算結果に誤差が生じ、意図した結果が得られないが場合ある。 これは、内部的には数値を (10進数ではなく) ２進数で演算しているため生じた誤差。 本記事は小数点を含んだ演算で厳密に結果を得る必要がある、あるいは値を比較する場合の誤差対処法について紹介する。 対処法 方法1 1. 値をいったん整数にしてから演算する 2. 1.の結果を再び小数に戻す // 演算結果に誤差が生じる console.log(0.2 * 3); // 桁数を上げて演算して、結果を再び小数に戻す console.log(((0.2 * 10) * 3) / 10);

• js
• javascript