mil*_*hal 7 java floating-point
我想了解Java double类型如何在Java 中将其值存储在内存中.当我运行以下代码时,我得到意外的输出:
public static void main(String[] args) {
float a = 1.5f;
float b= 0.5f;
double c= 1.5;
double d = 0.5;
float a1 = 1.4f;
float b1= 0.5f;
double c1= 1.4;
double d1 = 0.5;
System.out.println(" a- b is " + (a-b));
System.out.println(" c- d is " + (c-d));
System.out.println("a1-b1 is " + (a1-b1));
System.out.println("c1-d1 is " + (c1-d1));
Run Code Online (Sandbox Code Playgroud)
}
输出:
a- b is 1.0 c- d is 1.0 a1-b1 is 0.9 c1-d1 is 0.8999999999999999
为什么c1-d1不等于0.9?
我也尝试了其他不同的值,但有些时候它会返回预期的结果而有些时间没有.
虽然您可能听说过舍入误差,但您可能想知道为什么这里有舍入误差。
float a1 = 1.4f;
float b1 = 0.5f;
double c1 = 1.4;
double d1 = 0.5;
System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +
new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));
System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +
new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));
Run Code Online (Sandbox Code Playgroud)
印刷
1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.9
1.399999999999999911182158029987476766109466552734375 - 0.5 is
0.899999999999999911182158029987476766109466552734375
or as a double is 0.8999999999999999
Run Code Online (Sandbox Code Playgroud)
正如您所看到的, 和float都double不能准确地表示这些值,并且当打印 float 或 double 时,会发生一些舍入以向您隐藏这一点。在这种情况下,四舍五入到小数点后 7 位将得到您期望的数字。对于具有 16 位精度的 double 来说,舍入误差是可见的。
float正如 @Eric Postpischil 所指出的, or运算是否double存在舍入误差完全取决于所使用的值。在这种情况下,尽管表示的值比 double 值更远离 0.9,但 float 似乎更准确。
简而言之:如果您打算使用float或double应该使用明智的舍入策略。如果无法做到这一点,请使用 BigDecimal。
System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));
System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));
Run Code Online (Sandbox Code Playgroud)
印刷
a1 - b1 is 0.90
c1 - d1 is 0.90
Run Code Online (Sandbox Code Playgroud)
当您打印浮点型或双精度型时,它假定最接近的短十进制值是您真正想要的值。即在 0.5 ulp 以内。
例如
double d = 1.4 - 0.5;
float f = d;
System.out.println("d = " + d + " f = " + f);
Run Code Online (Sandbox Code Playgroud)
印刷
d = 0.8999999999999999 f = 0.9
Run Code Online (Sandbox Code Playgroud)
| 归档时间: |
|
| 查看次数: |
859 次 |
| 最近记录: |