Ale*_*ex 5 ruby floating-accuracy
为什么4.1%2会返回0.0999999999999996?但是4.2%2 == 0.2.
请参阅:每个程序员应该知道的浮点运算
实数是无限的.计算机正在使用有限数量的位(32位,今天64位).因此,计算机完成的浮点运算不能代表所有实数.0.1是这些数字之一.
请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机代表实数的方式.
| 归档时间: |
|
| 查看次数: |
224 次 |
| 最近记录: |