確かになんでだろと思ってたけど、調べたことなかった/BCDと小数点は独立した概念。BCDの浮動小数点数もあるわけで。

macj_jpmacj_jp のブックマーク 2020/01/22 22:30

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

0.1は浮動小数点数で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita

    当たり前のことに感じますが、0.1は浮動小数点数(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう