Taming Floating-Point Sums | orlp.net
Suppose you have an array of floating-point numbers, and wish to sum them. You might naively think you can simply add them, e.g. in Rust: fn naive_sum(arr: &[f32]) -> f32 { let mut out = 0.0; for x in arr { out += *x; } out } This however can easily result in an arbitrarily large accumulated error. Let’s try it out: naive_sum(&vec![1.0; 1_000_000]) = 1000000.0 naive_sum(&vec![1.0; 10_000_000]) = 1
浮動å°æ•°ç‚¹æ•°å†…部表ç¾ã‚·ãƒŸãƒ¥ãƒ¬ãƒ¼ã‚¿ãƒ¼ - instant tools
コメント IPAã®æƒ…å ±å‡¦ç†è©¦é¨“ã®å‹‰å¼·ç”¨ã¨ã—ã¦ã¨ã€JavaScriptã§å°æ•°ã®è¨ˆç®—ã®èª¤å·®ãŒ ãªãœç™ºç”Ÿã™ã‚‹ã®ã‹ãã¡ã‚“ã¨ç†è§£ã—ãŸã‹ã£ãŸã®ã§ä½œæˆã—ã¾ã—ãŸã€‚ ãŠã‹ã’ã§ã€Œ0.1 + 0.2ã€ãŒãªãœ0.3ã«ãªã‚‰ãªã„ã®ã‹ãŒã€ãƒ“ットå˜ä½ã§æŠŠæ¡ã§ãã¾ã—ãŸã€‚ 丸ã‚æ–¹å¼ã®1ã¤ã«ã€ä¸¸ã‚ã‚‹å‰ã®å®Ÿæ•°ã¨è·é›¢çš„ã«æœ€ã‚‚è¿‘ã„æ•°ã«ä¸¸ã‚る〠RN (Round toNearest)æ–¹å¼ãŒã‚ã‚Šã¾ã™ã€‚ m進数ã§ã€Œm/2-1æ¨m/2å…¥ã€ã€10進数ã ã¨å››æ¨äº”å…¥ã€2進数ã ã¨0æ¨1å…¥ã«ãªã‚Šã¾ã™ã€‚ 誤差をã§ãã‚‹ã ã‘å°ã•ãã™ã‚‹æ–¹æ³•ã¨ã—ã¦åˆ©ç”¨ã•ã‚Œã¾ã™ã€‚ ãŸã ã—IEEE754ã®RNæ–¹å¼ã¯å¶æ•°ä¸¸ã‚ã¨å‘¼ã°ã‚Œã‚‹ã€2ã¤ã®æ¡ã‚’使ã£ã¦åˆ¤æ–ã™ã‚‹æ–¹æ³•ã‚’採用ã—ã¦ã„ã¾ã™ã€‚ 「00ã€â†’「00ã€ã€ã€Œ01ã€â†’「00ã€ã€ã€Œ10ã€â†’「10ã€ã€ã€Œ11ã€â†’「100ã€ã€‚ 0.1ã¨0.2ã¯1æ¡ç•°ãªã‚‹å€¤ã§ã‚ã‚Šã€ã‹ã¤ ã©ã¡ã‚‰ã‚‚仮数部ã®æœ€ä¸‹ä½ãƒ“ットãŒç¹°ã‚Šä¸ŠãŒã£ãŸå€¤ã«ãªã‚Šã¾ã™ã€‚ ãã®çµæžœ0.1ã¨
1
ランã‚ング
ランã‚ング
ランã‚ング
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
処ç†ã‚’実行ä¸ã§ã™
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
{{#tags}}- {{label}}
{{/tags}}