neu*_*rte 9 c++ floating-point
鉴于此示例C++代码段:
void floatSurprise()
{
// these come from some sort of calculation
int a = 18680, b = 3323524, c = 121;
float m = float(a) / c;
// variant 1: calculate result from single expression
float r1 = b - (2.0f * m * a) + (m * m * c);
cout << "r1 = " << r1 << endl;
// variant 2: break up the expression into intermediate parts,
/// then calculate
float
r2_p1 = 2.0f * m * a,
r2_p2 = m * m * c,
r2 = b - r2_p1 + r2_p2;
cout << "r2 = " << r2 << endl;
}
Run Code Online (Sandbox Code Playgroud)
输出是:
dev1 = 439703
dev2 = 439702
在调试器中查看时,这些值实际上分别为439702.50和439702.25,这本身很有趣 - 不确定为什么iostream默认情况下打印没有小数部分的浮点数.编辑:原因是cout的默认精度设置太低,需要cout << setprecision(7)至少看到这个数量的数字的小数点.
但我更感兴趣的是为什么我会得到不同的结果.我想它与舍入和一些与所需浮点输出类型的int的微妙相互作用有关,但我不能把手指放在它上面.哪个值是正确的?
令我惊讶的是,用这么简单的代码片段拍摄自己很容易.任何见解将不胜感激!编译器是VC++ 2010.
编辑2:我做了一些调查,使用电子表格为中间变量生成"正确的"值,并发现(通过跟踪)确实正在修剪它们,导致最终结果的精度损失.我还发现单个表达式有问题,因为我实际上使用了一个方便的函数来计算方块而不是m * m那里:
template<typename T> inline T sqr(const T &arg) { return arg*arg; }
Run Code Online (Sandbox Code Playgroud)
即使我很好地问了,编译器显然没有内联这个,并分别计算了值,在将值返回到表达式之前修剪结果,再次偏移结果.哎哟.
Eri*_*ert 11
您应该阅读我长期以来的答案,了解为什么在C#中发生同样的事情:
(.1f + .2f ==.3f)!=(.1f + .2f).Equals(.3f)为什么?
总结:首先,浮点数只能获得大约7位小数的精度.正确的答案是你在整个计算过程中用精确的算法做了大约439702.51239669 ...因此,考虑到浮点数的限制,你在任何一种情况下都会接近正确的答案.
但这并不能解释为什么你会得到不同的结果,看起来完全相同的计算.答案是:允许编译器使用宽幅度来使您的数学更准确,显然您已经遇到了两种情况,其中优化器采用逻辑上相同的表达式并且不将它们优化为相同的代码.
无论如何,请仔细阅读我关于C#的答案; 那里的一切也适用于C++.