有効数字というのはJISでも定義されてるような話です。真面目に実用の話をすると、今有効桁数丸めというのはまず使う意味がないので使われないですしね。

houyhnhmhouyhnhm のブックマーク 2016/02/23 23:08

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

円周率に、有効数字という概念が当てはまらない。 - 深淵

    togetter.com さて。 タイトルで書きましたが、科学計算において、円周率をどうするかというのは、「まあ好きにせよ」とは思うのですが、「測定値の有効桁数で丸める」という意味は全くないのでご注意下さい。 ま...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう