エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
(2012-01-27追記) 同僚のご指摘で一部修正 (B会長に感謝!) 後輩のつぶやきがきっかけで標本分散の計算方... (2012-01-27追記) 同僚のご指摘で一部修正 (B会長に感謝!) 後輩のつぶやきがきっかけで標本分散の計算方法について気になって検証してみたのでメモ. 標本分散の計算方法は2つある.以下の定義式: と,自乗の平均から平均の自乗を引くもの: . ちゃんとした呼び方を知らないので,本記事では前者を定義式,後者を簡易計算式と呼ぶことにする.計算機で標本分散を計算しようとすると,定義式では一度平均を計算する必要があり2回のループを回す必要があり後者に比べて時間がかかる.1パスで済む簡易計算式の方が計算は速いものの,先に自乗計算を行うため,桁落ちに伴う数値誤差が発生する.ここまではWikipediaにも書いてあること.僕の記憶が確かならば大学の統計の授業でも言われた気がする. さて後輩のつぶやきにコメントしていて以下の3点が気になった (1) 単精度ならともかく,倍精度なら桁落ち誤差とか気に