Ruby浮点精度

Question

据我了解,Ruby(1.9.2)浮点数的精度为15位十进制数.因此,我希望舍入浮点x到15位小数将等于x.对于这种计算,情况并非如此.

x = (0.33 * 10)
x == x.round(15) # => false

顺便说一句,舍入到16位返回true.

你能解释一下吗？

Answer 1

问题的一部分是0.33在底层格式中没有精确表示,因为它不能用一系列1/2 ⁿ项表示.因此,当它乘以10时,与0.33略有不同的数字相乘.

就此而言,3.3也没有精确的表示.

第一部分

当数字不具有精确的基数10表示时,在转换尾数中存在信息的最低有效数字时将存在余数.这个余数将传播到右边,可能是永远的,但它在很大程度上是毫无意义的.这个错误的明显随机性是由于同样的原因解释了你和马图注意到的明显不一致的舍入.这是第二部分.

第二部分

并且此信息(最右边的位)与单个十进制数字所传达的信息不完全对齐,因此十进制数字通常会略小于原始精度较大时的值.

这就是为什么转换可能在15位数时舍入为1而在16位数时为0.x:因为较长的转换对于尾数末尾右侧的位没有值.