use*_*486 2 algorithm math floating-point precision
在划分两个浮点值时,由于精度误差,我得到的答案不正确.例如,1001.05/5.0应该等于200.21,但我得到了200.2099999999.
使用我们的数学库中的除法函数代替'/'获得了正确的结果.那么这个库函数有什么额外的东西来纠正精度错误呢？您可以向我解释或指出有关用于纠正精度错误的标准算法的信息,此函数必须使用该算法.
Eri*_*ric 6
您的数学库不使用浮点数,或者在打印时将结果四舍五入.200.21无法用标准浮点数精确表示.
归档时间：
13 年，9 月 前
查看次数：
149 次
最近记录：