Python で正確な小数の計算 (1) - Decimal モジュールを使う

Python で正確な小数の計算 (1) - Decimal モジュールを使う

1. 思っていた答えと違った少数の計算 実際に行った計算の例を挙げる。 29 - (54.2 - 52.0) / 0.1 暗算...概要を表示 1. 思っていた答えと違った少数の計算 実際に行った計算の例を挙げる。 29 - (54.2 - 52.0) / 0.1 暗算すれば、答えは 7 ということはわかる。 ある実装において、上記の計算に対して、 int() 関数を適用して、 その値を元に、配列の要素を取得する という操作を行った。その結果、想定していた挙動と違い、ハマった。 (+_+) print range(0,10)[int(29 - (54.2 - 52.0) / 0.1)] 7 という答えが返ってくるかと思いきや 6 。 2. いろいろな丸め関数 int() 関数について調べると、2.1 組み込み関数 には、 int([x[, radix]]) 文字列または数値を通常の整数に変換します。(…)浮動小数点数から整数へ変換では (ゼロ方向に) 値を丸めます。引数が通常整数の範囲を超えている場合、長整数が代わりに返されます。

• python
• programming
• blog