java.math.RoundingMode是如何工作的?

ilC*_*nia 7 java rounding

我在舍入方面遇到了麻烦.具体来说,在阅读完所有的javadoc后,我期待以下代码:

int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
Run Code Online (Sandbox Code Playgroud)

返回n + 0.56.相反,这些都为返回值n04:

 new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
 4.55
Run Code Online (Sandbox Code Playgroud)

我也尝试改变舍入模式:

int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
Run Code Online (Sandbox Code Playgroud)

期待n + 0.55每一个人的结果n.相反,返回值与前一个示例完全相同:

 new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
 4.55
Run Code Online (Sandbox Code Playgroud)

我错过了什么吗?

Pet*_*rey 13

你遇到的问题是double不是一个精确的表示,你基于这个不精确的数字是圆的.

BigDecimal bd = new BigDecimal(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
Run Code Online (Sandbox Code Playgroud)

版画

bd=1.5549999999999999378275106209912337362766265869140625
after rounding bd=1.55
after rounding d=1.55
Run Code Online (Sandbox Code Playgroud)

然而

BigDecimal bd = BigDecimal.valueOf(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
Run Code Online (Sandbox Code Playgroud)

版画

bd=1.555
after rounding bd=1.56
after rounding d=1.56
Run Code Online (Sandbox Code Playgroud)

这是有效的,因为BigDecimal.valueOf会根据打印时出现的双倍进行一些额外的舍入.


但是,除非性能/简单性不是问题,否则我不会使用BigDecimal.

double d = 1.555d;
System.out.println("d=" + d);
d = roundToTwoPlaces(d);
System.out.println("after rounding d=" + d);

public static double roundToTwoPlaces(double d) {
    return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0;
}
Run Code Online (Sandbox Code Playgroud)

版画

d=1.555
after rounding d=1.56
Run Code Online (Sandbox Code Playgroud)

有关详细信息,请再次您的资金用于比较不同舍入方式的性能.