Taming Floating-Point Sums | orlp.net

テクノロジーカテゴリーの変更を依頼記事元:

orlp.net

28 usersがブックマークコメント

2

記事へのコメント2件

注目コメント
新着コメント

rawwell "At 4GHz that’s up to 128GB/s! Note that that’s way above what my machine’s RAM bandwidth is, so you will only achieve that speed when summing data that is already in cache."

2024/07/28 リンク

tanakh これ面白かった（小並感）

2024/05/31 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

Taming Floating-Point Sums | orlp.net

Suppose you have an array of floating-point numbers, and wish to sum them. You might naively thin... Suppose you have an array of floating-point numbers, and wish to sum them. You might naively think you can simply add them, e.g. in Rust: fn naive_sum(arr: &[f32]) -> f32 { let mut out = 0.0; for x in arr { out += *x; } out } This however can easily result in an arbitrarily large accumulated error. Let’s try it out: naive_sum(&vec![1.0; 1_000_000]) = 1000000.0 naive_sum(&vec![1.0; 10_000_000]) = 1