相关疑难解决方法(0)

ruby浮点错误

有人可以解释为什么乘以100会得到一个不太准确的结果,但乘以10两次会得到更准确的结果吗?

± % sc
Loading development environment (Rails 3.0.1)
>> 129.95 * 100
12994.999999999998
>> 129.95*10
1299.5
>> 129.95*10*10
12995.0
Run Code Online (Sandbox Code Playgroud)

ruby floating-point

10
推荐指数
1
解决办法
4045
查看次数

标签 统计

floating-point ×1

ruby ×1