サクサク読めて、アプリ限定の機能も多数!
有効数字というのはJISでも定義されてるような話です。真面目に実用の話をすると、今有効桁数丸めというのはまず使う意味がないので使われないですしね。
houyhnhm のブックマーク 2016/02/23 23:08
円周率に、有効数字という概念が当てはまらない。 - 深淵有効数字というのはJISでも定義されてるような話です。真面目に実用の話をすると、今有効桁数丸めというのはまず使う意味がないので使われないですしね。2016/02/23 23:08
このブックマークにはスターがありません。 最初のスターをつけてみよう!
abyss.hatenablog.jp2016/02/23
togetter.com さて。 タイトルで書きましたが、科学計算において、円周率をどうするかというのは、「まあ好きにせよ」とは思うのですが、「測定値の有効桁数で丸める」という意味は全くないのでご注意下さい。 ま...
12 人がブックマーク・7 件のコメント
\ コメントが サクサク読める アプリです /
有効数字というのはJISでも定義されてるような話です。真面目に実用の話をすると、今有効桁数丸めというのはまず使う意味がないので使われないですしね。
houyhnhm のブックマーク 2016/02/23 23:08
このブックマークにはスターがありません。
最初のスターをつけてみよう!