我在舍入方面遇到了麻烦.具体来说,在阅读完所有的javadoc后,我期待以下代码:
int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
Run Code Online (Sandbox Code Playgroud)
返回n + 0.56.相反,这些都为返回值n从0到4:
new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
0.56
new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
1.55
new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
2.56
new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
3.56
new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_UP).doubleValue()
4.55
Run Code Online (Sandbox Code Playgroud)
我也尝试改变舍入模式:
int n = (integer between 0 and 9, included)
new BigDecimal(n + 0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
Run Code Online (Sandbox Code Playgroud)
期待n + 0.55每一个人的结果n.相反,返回值与前一个示例完全相同:
new BigDecimal(0.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
0.56
new BigDecimal(1.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
1.55
new BigDecimal(2.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
2.56
new BigDecimal(3.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
3.56
new BigDecimal(4.555d).setScale(2, RoundingMode.HALF_DOWN).doubleValue()
4.55
Run Code Online (Sandbox Code Playgroud)
我错过了什么吗?
Pet*_*rey 13
你遇到的问题是double不是一个精确的表示,你基于这个不精确的数字是圆的.
BigDecimal bd = new BigDecimal(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
Run Code Online (Sandbox Code Playgroud)
版画
bd=1.5549999999999999378275106209912337362766265869140625
after rounding bd=1.55
after rounding d=1.55
Run Code Online (Sandbox Code Playgroud)
然而
BigDecimal bd = BigDecimal.valueOf(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);
Run Code Online (Sandbox Code Playgroud)
版画
bd=1.555
after rounding bd=1.56
after rounding d=1.56
Run Code Online (Sandbox Code Playgroud)
这是有效的,因为BigDecimal.valueOf会根据打印时出现的双倍进行一些额外的舍入.
但是,除非性能/简单性不是问题,否则我不会使用BigDecimal.
double d = 1.555d;
System.out.println("d=" + d);
d = roundToTwoPlaces(d);
System.out.println("after rounding d=" + d);
public static double roundToTwoPlaces(double d) {
return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0;
}
Run Code Online (Sandbox Code Playgroud)
版画
d=1.555
after rounding d=1.56
Run Code Online (Sandbox Code Playgroud)