No.1
158
0
40pt
http://e-words.jp/w/E6A181E890BDE381A1.html
桁落ちとは ─ 意味・解説 ： IT用語辞典 e-Words
桁落ちの問題です。プログラミングの教科書には、たいてい載っていると思われます。
http://www.asahi-net.or.jp/~UC3K-YMD/Lesson/Section03/section03_...
行列ライブラリの設計（２） １３ 誤差
こちらのページでは、①誤差をどう防ぐか、②それでも生じる誤差をどう処理するか、を具体例で説明されています。
以下、いくつかページを紹介しておきます。
http://www.k-cube.co.jp/wakaba/server/numerical_problem.html
$B?tCM$N07$$$K4X$9$k=tLdBj(J
No.2
1426
40pt
http://www.hatena.ne.jp/1139252001#/dummy
人力検索はてな - 二進数で1.1−1−0.1を計算したら8.32667268468867×E-17になり、０になりません。（Eは１０のー１７乗です。）コンピューター内での計算の内容は？誤差の原因、防止方法を..
URL=dummy
原因にについては分からないですが１０のー10乗とかで四捨五入
コンピューターの近似のアルゴリズムが分かれば正確性が分かるので、どの桁で切ればいいか分かると思う
| 回答者 | 回答 | 受取 | ベストアンサー | 回答時間 | |
|---|---|---|---|---|---|
| 1 |  KazuhisaNagata |
87回 | 80回 | 4回 | 2006-02-07 11:42:31 |
| 2 |  Baku7770 |
2832回 | 2531回 | 181回 | 2006-02-07 12:47:54 |
| 3 |  tezcello |
460回 | 419回 | 69回 | 2006-02-10 13:50:30 |
1
6
13
13
ありがとうございました。