为什么我的BigDecimal对象初始化时出现意外的舍入错误？

Question

在Ruby 2.2.0中,为什么:

BigDecimal.new(34.13985572755337, 9)

平等34.0但是

BigDecimal.new(34.13985572755338, 9)

平等34.1398557？

请注意,我在64位计算机上运行它.

Answer 1

用字符串而不是浮点数初始化

通常,使用Floats无法获得可靠的行为.您错误地使用Float值而不是String值初始化BigDecimals,这会在开头引入一些不精确.例如,在我的64位系统上:

float1 = 34.13985572755337
float2 = 34.13985572755338

# You can use string literals here, too, if your Float can't be properly
# represented. For example:
#
#    BigDecimal.new("34.13985572755337", 9)
#
# would be safer, but Float#to_s works fine with the provided corpus.
bd1 = BigDecimal.new(float1.to_s, 9)
bd2 = BigDecimal.new(float2.to_s, 9)

bd1.to_s
#=> "0.3413985572755337E2"
bd2.to_s
#=> "0.3413985572755338E2"

bd1.to_f == float1
#=> true
bd2.to_f == float2
#=> true

这是参数的内部表示很重要的一种情况.因此,您的里程将根据您初始化对象的方式而有所不同.