bit*_*yan 28 java coldfusion floating-point-precision cfml
为什么ColdFusion中的数学运算似乎不受浮点数学问题的影响?拿代码:
result = 0.06 + 0.01;
writedump(result);
writedump(result.getClass().getName());
Run Code Online (Sandbox Code Playgroud)
哪个输出
0.07
java.lang.Double中
然而,相当的Java代码产生了我在添加两个双精度时所期望的:
public static void main(String[] args) {
double a = 0.01d;
double b = 0.06d;
System.out.println(a + b); //0.06999999999999999
}
Run Code Online (Sandbox Code Playgroud)
这是我期望从ColdFusion看到的,因为浮动数学的现实(http://download.oracle.com/docs/cd/E19957-01/806-3568/ncg_goldberg.html).
ColdFusion在幕后做了一些"魔术"还是我在这里看到一个孤立的异常?
Jon*_*eet 37
我强烈怀疑它只是在输出方面有所不同.换句话说,问题仍然存在 - 只是在打印出这个特定值时才会出现writedump.
如果你使用会发生什么:
writedump(String.valueOf(result));
Run Code Online (Sandbox Code Playgroud)
?
| 归档时间: |
|
| 查看次数: |
1315 次 |
| 最近记录: |