Pan*_*ani 0 ruby floating-point irb
只是出于好奇而问这个问题.
我正在使用irb终端,并试图从浮动中减去浮动.
我发现
irb(main):003:0> 49.4 - 0.1
给我
=> 49.3
但如果我这样做
irb(main):003:0> 49.3 - 0.1
然后我明白了
=> 49.199999999999996
这是否与irb的实施有关？我的意思是为什么49.3 - 0.1给出了这样的表示.(具体到49.3 - 0.1,我从来没有得到过这个)
我用irb 0.9.6
你应该阅读科学家应该知道的关于浮点运算的内容.这不是Ruby或IRB特有的.
| 归档时间： |
|
| 查看次数： |
230 次 |
| 最近记录： |