x86_64だと浮動小数点演算の精度が低下する » tune web

x86_64だと浮動小数点演算の精度が低下する » tune web

64bit OSで動かすと32bitの時と処理結果が異なるプログラムで悩んだメモです。 調べていくとfloatを使っ...概要を表示 64bit OSで動かすと32bitの時と処理結果が異なるプログラムで悩んだメモです。 調べていくとfloatを使った浮動小数点演算で誤差が出ることがわかりました。分からなかったのが、IEEE754でfloatの演算精度は32bitと規定されているのになぜ同じソースから作ったプログラムで結果が違うのかということです。 x86では浮動小数点演算にx87を使うのですが、この演算精度は32bitや64bitではなく、80bitで行われるそうです。この辺の話は 浮動小数点演算ではまった話 – bkブログとかBK通信に詳しく載ってます。要約すると32bitの精度で誤差が生じる計算が含まれていても”たまたま”うまく計算できることがある ということです。 たまたま精度よく計算できるプログラムをx86_64に持っていってコンパイルしようとします。このとき、x86_64では必ずSSEが使えるため、コンパイラ