小编use*_*486的帖子

数学库中的除法函数如何处理精度误差,除法运算符无法做到?

在划分两个浮点值时,由于精度误差,我得到的答案不正确.例如,1001.05/5.0应该等于200.21,但我得到了200.2099999999.

使用我们的数学库中的除法函数代替'/'获得了正确的结果.那么这个库函数有什么额外的东西来纠正精度错误呢?您可以向我解释或指出有关用于纠正精度错误的标准算法的信息,此函数必须使用该算法.

algorithm math floating-point precision

2
推荐指数
1
解决办法
149
查看次数

标签 统计

algorithm ×1

floating-point ×1

math ×1

precision ×1