気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
浮動小数点数型と誤差
41 users
www.cc.kyoto-su.ac.jp/~yamada
www.cc.kyoto-su.ac.jp/~yamada
www.cc.kyoto-su.ac.jp/~yamada
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである．... 有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも，そのうちの有限個の桁数でその値を表すしかない． 例えば，0.1 を２進数の小数で表すと 0.1(10) = 0.000110011001100110011...(2) と無限に続くが，コンピュータの内部では有限桁で丸められている． このような場合には，本当の値ではなく，近似値でしか表すことができない． 指数表記（浮動小数点表記） 科学計算では非常に大きな実数値や非常に小さな実数値も扱うことがある． そのようなときには，通常の１０進数の表記ではなくて，次のような指数表記で表すれば 無駄な 000...000 という桁を表記しなくてもよくなる． 1234567890000000000000
www.cc.kyoto-su.ac.jp/~yamada
www.cc.kyoto-su.ac.jp/~yamada
www.cc.kyoto-su.ac.jp/~yamada
www.cc.kyoto-su.ac.jp/~yamada
www.bengo4.com
anond.hatelabo.jp
anond.hatelabo.jp
news.denfaminicogamer.jp
qiita.com
www.techno-edge.net
qiita.com/lychee1223
zenn.dev/aeonpeople
xtech.nikkei.com
adventar.org
zenn.dev/mini_bg_pro_n
zenn.dev/ubie_dev
bakery.cakephp.org
blackshadow.seesaa.net
2012/06/13 リンク