サクサク読めて、アプリ限定の機能も多数!
確かになんでだろと思ってたけど、調べたことなかった/BCDと小数点は独立した概念。BCDの浮動小数点数もあるわけで。
macj_jp のブックマーク 2020/01/22 22:30
0.1は浮動小数点数で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita[計算機科学][プログラミング][python]確かになんでだろと思ってたけど、調べたことなかった/BCDと小数点は独立した概念。BCDの浮動小数点数もあるわけで。2020/01/22 22:30
このブックマークにはスターがありません。 最初のスターをつけてみよう!
qiita.com/yucatio2020/01/22
当たり前のことに感じますが、0.1は浮動小数点数(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事...
260 人がブックマーク・32 件のコメント
\ コメントが サクサク読める アプリです /
確かになんでだろと思ってたけど、調べたことなかった/BCDと小数点は独立した概念。BCDの浮動小数点数もあるわけで。
macj_jp のブックマーク 2020/01/22 22:30
このブックマークにはスターがありません。
最初のスターをつけてみよう!