双原语类型数据的意外行为

mil*_*hal 7 java floating-point

我想了解Java double类型如何在Java 中将其值存储在内存中.当我运行以下代码时,我得到意外的输出:

public static void main(String[] args)  {

    float a = 1.5f;
    float b= 0.5f;
    double c= 1.5;
    double d = 0.5;

    float a1 = 1.4f;
    float b1= 0.5f;
    double c1= 1.4;
    double d1 = 0.5;

    System.out.println(" a- b is " + (a-b));
    System.out.println(" c- d is " + (c-d));
    System.out.println("a1-b1 is " + (a1-b1));
    System.out.println("c1-d1 is " + (c1-d1));
Run Code Online (Sandbox Code Playgroud)

}

输出:

 a- b is 1.0
 c- d is 1.0
a1-b1 is 0.9
c1-d1 is 0.8999999999999999

为什么c1-d1不等于0.9

我也尝试了其他不同的值,但有些时候它会返回预期的结果而有些时间没有.

Pet*_*rey 3

虽然您可能听说过舍入误差,但您可能想知道为什么这里有舍入误差。

float a1 = 1.4f;
float b1 = 0.5f;
double c1 = 1.4;
double d1 = 0.5;

System.out.println(new BigDecimal(a1) + " - " + new BigDecimal(b1) + " is " +
        new BigDecimal(a1).subtract(new BigDecimal(b1)) + " or as a float is " + (a1 - b1));
System.out.println(new BigDecimal(c1) + " - " + new BigDecimal(d1) + " is " +
        new BigDecimal(c1).subtract(new BigDecimal(d1)) + " or as a double is " + (c1 - d1));
Run Code Online (Sandbox Code Playgroud)

印刷

1.39999997615814208984375 - 0.5 is 0.89999997615814208984375 or as a float is 0.9
1.399999999999999911182158029987476766109466552734375 - 0.5 is
     0.899999999999999911182158029987476766109466552734375 
     or as a double is 0.8999999999999999
Run Code Online (Sandbox Code Playgroud)

正如您所看到的, 和floatdouble不能准确地表示这些值,并且当打印 float 或 double 时,会发生一些舍入以向您隐藏这一点。在这种情况下,四舍五入到小数点后 7 位将得到您期望的数字。对于具有 16 位精度的 double 来说,舍入误差是可见的。

float正如 @Eric Postpischil 所指出的, or运算是否double存在舍入误差完全取决于所使用的值。在这种情况下,尽管表示的值比 double 值更远离 0.9,但 float 似乎更准确。

简而言之:如果您打算使用floatdouble应该使用明智的舍入策略。如果无法做到这一点,请使用 BigDecimal。

System.out.printf("a1 - b1 is %.2f%n", (a1 - b1));
System.out.printf("c1 - d1 is %.2f%n", (c1 - d1));
Run Code Online (Sandbox Code Playgroud)

印刷

a1 - b1 is 0.90
c1 - d1 is 0.90
Run Code Online (Sandbox Code Playgroud)

当您打印浮点型或双精度型时,它假定最接近的短十进制值是您真正想要的值。即在 0.5 ulp 以内。

例如

double d = 1.4 - 0.5;
float f = d;
System.out.println("d = " + d + " f = " + f);
Run Code Online (Sandbox Code Playgroud)

印刷

d = 0.8999999999999999 f = 0.9
Run Code Online (Sandbox Code Playgroud)

  • “In the case of double which has 16digits of precision, the rounding error isvisible”这句话表明,由于 double 具有更高的精度,因此 double 值显示的位数更多。事实并非如此。对于每种类型(float 和 double),减去 0.5 的结果是否也是最接近精确结果(当使用原始数字时)的可表示值实际上是偶然的。它是四舍五入位置后面紧跟着哪些位的函数,而不是使用多少位的函数。例如,尝试“1.2f - .5f”和“1.2 - .5”。 (2认同)