サクサク読めて、アプリ限定の機能も多数!
double 型の精度(有効桁数)は10進数では約 15 桁
toton のブックマーク 2008/11/21 18:03
浮動小数点数型と誤差[programming] double 型の精度(有効桁数)は10進数では約 15 桁2008/11/21 18:03
このブックマークにはスターがありません。 最初のスターをつけてみよう!
www.cc.kyoto-su.ac.jp/~yamada2008/03/02
有限桁 C言語で扱える実数値は,2進数の有限小数で表された数値である.例えば次のようなものである. 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも,そのうちの有限個の桁数でその...
41 人がブックマーク・5 件のコメント
\ コメントが サクサク読める アプリです /
double 型の精度(有効桁数)は10進数では約 15 桁
toton のブックマーク 2008/11/21 18:03
このブックマークにはスターがありません。
最初のスターをつけてみよう!