アイテム演算の乗算と除算の結果が異なることについて
アイテム演算で、ある値の乗算「*0.1」と除算「/10」のそれぞれで演算結果が異なります。なぜですか?
結果が異なる原因は、「0.1」が2進数では表現できないことです。
2進数で「0.1」を表現する場合、循環小数となるため計算すると誤差が発生します。
それに対し、「10」で割る場合は、2進数で表現できる「10」という値の除算をおこないます。
それぞれを10進数で例えますと、
例: 9 × 0.33333… = 2.999999…
例: 9 ÷ 3 = 3
となります。