浮動小数点数の2進10進変換のこと - 再帰の反復blog

テクノロジーカテゴリーの変更を依頼記事元:

lemniscus.hatenablog.com

3 usersがブックマークコメント

コメント

0

記事へのコメント0件

注目コメント
新着コメント

新着コメントはまだありません。
このエントリーにコメントしてみましょう。

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

{{ total_bookmarks_with_user_postfix }}{{ root_title }}

浮動小数点数の2進10進変換のこと - 再帰の反復blog

浮動小数点数のわかりにくさの一因浮動小数点数は難しいし何だか怪しげな感じがする。たぶん主な理由は... 浮動小数点数のわかりにくさの一因浮動小数点数は難しいし何だか怪しげな感じがする。たぶん主な理由は数値計算の難しさ浮動小数点数演算の難しさだと思う。でもこれらとは別に、浮動小数点数を使う場合、ほぼ常に2進10進変換が介入しているという理由があるような気がする。浮動小数点数は2進小数×2のベキの形で表現されているけど、浮動小数点数を出力したり入力したりする場合は10進小数×10のベキの形で表記される。つまり浮動小数点数演算のシステム自体(コンピュータ側の世界)は2進数だけで完結している。逆に、浮動小数点数の表示・入力(人間側の世界)では通常、10進数だけで完結している。この二つの世界を行き来する場合に2進10進変換がおこなわれる。ということになる。さらにこれは、整数での2進10進変換とは全く違っている。整数の場合、2進と10進の間で変換しても表現が違うだけで全く同じ数を表

ブックマークしたユーザー

takatoshiono2014/11/29
tanimina2013/12/30
koemu2011/04/19

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx