相关疑难解决方法(0)

Excel如何成功地舍入浮点数,即使它们不精确?

例如,这篇博客说0.005并不完全是0.005,但是舍入这个数字会产生正确的结果.

我在C++中尝试了各种舍入,但在将数字舍入到某些小数位时失败了.例如,Round(x,y)将x舍入为y的倍数.所以回合(37.785,0.01)应该给你37.79而不是37.78.

我正在重新打开这个问题,向社区寻求帮助.问题在于浮点数的不精确性(37,785表示为37.78499999999).

问题是Excel如何解决这个问题?

对于上述问题,在C++中浮点数的轮()中的解决方案是不正确的.

c++ math floating-point excel rounding

22
推荐指数
2
解决办法
4511
查看次数

标签 统计

c++ ×1

excel ×1

floating-point ×1

math ×1

rounding ×1