2019-05-26から1日間の記事一覧

pythonの除算結果が浮動小数点数になったので、必要な精度が失われた話

(注:pythonの話を書いていますが、浮動小数点の精度の話は他のプログラミング言語でも同様だと思います。 pythonの記法では、浮動小数点の除算演算子が/であり、整数除算の演算子が//であることに注意してください) 特に、大きな数の計算で答えの整数を正…