気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
JavaScriptでの小数点の計算の誤差について - Qiita
8 users
qiita.com/k_moto
qiita.com/k_moto
qiita.com/k_moto
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
はじめに 4日目は、スマートテック・ベンチャーズの本山(@k_moto)が担当します。 今回はJavaScriptの小... はじめに 4日目は、スマートテック・ベンチャーズの本山(@k_moto)が担当します。 今回はJavaScriptの小数点の計算について。 一見iOSと関係なさそうですが、 ブリッジすることや、ハイブリッドアプリはJSで書かれているので、 豆知識として覚えておいていただければと思います。 JavaScriptで小数点を計算するとズレる JavaScriptでは IEEE 754(浮動小数点数演算標準) という規格に沿った実装がされています。 そのため、かなり微妙な誤差ではあるのですが、 計算結果にずれが出てしまいます。 詳しくは JavaScript IEEE754 などのキーワードでGoogle先生に聞いてみてください。 例えば、 以下のような場合、少数第14位が1多く resultの値は 70.60000000000001 となってしまいます。 誤差を修正する方法ですが、 基本的には整
qiita.com/k_motoyama
qiita.com/k_moto
qiita.com/k_moto
note.com/shi3zblog
note.com/tttocklll
blog.tinect.jp
www3.nhk.or.jp
qiita.com/hann-solo
www.bloomberg.co.jp
note.com/shnjtk
www.itmedia.co.jp
forest.watch.impress.co.jp
gigazine.net
qiita.com/ka_
qiita.com/ka_to
qiita.com/k7tak29
qiita.com/k_kinukawa
qiita.com/ka_
qiita.com/k7tak29
meetscareer.tenshoku.mynavi.jp
suumo.jp
suumo.jp
suumo.jp
2016/12/05 リンク