float を使うときの「桁落ち」と「情報落ち」が実例を使って判りやすく解説されている。

asari3asari3 のブックマーク 2012/06/13 17:14

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

浮動小数点数型と誤差

    有限桁 C言語で扱える実数値は,2進数の有限小数で表された数値である.例えば次のようなものである. 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも,そのうちの有限個の桁数でその...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう