在划分两个浮点值时,由于精度误差,我得到的答案不正确.例如,1001.05/5.0应该等于200.21,但我得到了200.2099999999.
使用我们的数学库中的除法函数代替'/'获得了正确的结果.那么这个库函数有什么额外的东西来纠正精度错误呢?您可以向我解释或指出有关用于纠正精度错误的标准算法的信息,此函数必须使用该算法.
algorithm math floating-point precision
algorithm ×1
floating-point ×1
math ×1
precision ×1