【Excel VBA】小数の計算で誤差が出る(IF文で判定違いが起こる)原因と対策
2024年4月9日
問題 以下のようにVBAで0.044 - 0.042 を計算して、それを小数点第3位で切り捨ててみるとどんな結果が表示されるでしょうか。 当然0.002になると思いますよね? でも答えは「0.001」になります(笑) 原 […]
誰かの参考になるかもと思ったことを残すブログ
問題 以下のようにVBAで0.044 - 0.042 を計算して、それを小数点第3位で切り捨ててみるとどんな結果が表示されるでしょうか。 当然0.002になると思いますよね? でも答えは「0.001」になります(笑) 原 […]