気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
数値計算による誤差 - inamori’s diary
3 users
inamori.hateblo.jp
inamori.hateblo.jp
inamori.hateblo.jp
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
Pythonでは整数は大きくなると勝手に多倍長整数として表すので誤差は出ませんが、浮動小数点数を介する... Pythonでは整数は大きくなると勝手に多倍長整数として表すので誤差は出ませんが、浮動小数点数を介すると途端に誤差が発生します。Project Eulerで特に問題になるのは、整数の平方根の計算です。すなわち、 ⌊√n⌋ の計算です。この計算は整数nを浮動小数点数に変換して平方根の計算をします。浮動小数点数は15桁くらい精度があるため、それくらいまでの大きさの整数なら、 int(sqrt(n)) で正確な計算をしてくれます。しかし、それより大きい整数だとそうもいきません。例えば、1234567892098765184は19桁の整数ですが、 n = 1234567892098765184 m = int(sqrt(n)) print m ** 2 - n # 265 とmは√nより大きくなってしまいます。これは、整数1234567892098765184は浮動小数点数化すると精度が足りず、1
inamori.hateblo.jp
inamori.hateblo.jp
inamori.hateblo.jp
inamori.hateblo.jp
anond.hatelabo.jp
bookmark.hatenastaff.com
japan.cnet.com
www.mbs.jp
anond.hatelabo.jp
www.itmedia.co.jp
huyukiitoichi.hatenadiary.jp
anond.hatelabo.jp
times.abema.tv
anond.hatelabo.jp
togetter.com
www.dlsite.com
booklog.jp
entabe.jp
2013/08/15 リンク