Ste*_*mer 4 c++ floating-point
在下面的示例应用程序,我计算从划分浮点其余953通过0.1使用std::fmod
我所期待的是,因为953.0 / 0.1 == 9530,那std::fmod(953, 0.1) == 0
我到了0.1- 为什么会这样?
请注意,std::remainder我得到了正确的结果.
那是:
std::fmod (953, 0.1) == 0.1 // unexpected
std::remainder(953, 0.1) == 0 // expected
Run Code Online (Sandbox Code Playgroud)
std::fmod 计算以下内容: 完全值x - n*y,其中n是x/y用其小数部分截
std::remainder 计算以下内容: 确切的值x - n*y,其中n最接近精确值的积分值x/y
根据我的输入,我希望两个函数具有相同的输出.为什么不是这样?
#include <iostream>
#include <cmath>
bool is_zero(double in)
{
return std::fabs(in) < 0.0000001;
}
int main()
{
double numerator = 953;
double denominator = 0.1;
double quotient = numerator / denominator;
double fmod = std::fmod (numerator, denominator);
double rem = std::remainder(numerator, denominator);
if (is_zero(fmod))
fmod = 0;
if (is_zero(rem))
rem = 0;
std::cout << "quotient: " << quotient << ", fmod: " << fmod << ", rem: " << rem << std::endl;
return 0;
}
Run Code Online (Sandbox Code Playgroud)
quotient: 9530, fmod: 0.1, rem: 0
Run Code Online (Sandbox Code Playgroud)
Ant*_*vin 12
因为它们是不同的功能.
std::remainder(x, y)计算IEEE余数,其x - (round(x/y)*y)在那里round被舍入到一半甚至(因此在特定round(1.0/2.0) == 0)
std::fmod(x, y)计算x - trunc(x/y)*y.当你除以时953,0.1你可能得到一个略小于9530的数字,所以截断得到9529.所以你得到的结果953.0 - 952.9 = 0.1
Dav*_*rtz 10
欢迎来到浮点数学.这是发生的事情:十分之一不能用二进制精确表示,就像三分之一不能用十进制精确表示一样.结果,除法产生的结果略低于9530. floor操作产生整数9529而不是9530.然后剩下0.1剩余.