BCA*_*BCA 2 .net c# type-conversion
我遇到了一个有趣的问题:当我将float值转换-99.9f为double变量时,该变量的值是-99.9000015258789
因此,此单元测试失败:
float f = -99.9f;
double d = (double)f;
Assert.AreEqual(-99.9, d);
Run Code Online (Sandbox Code Playgroud)
我知道在不同的地方添加了额外的32位.然而,我所追求的价值,-99.9000000000000如果我直接指定它,就表示为双精度,如单元测试所示:
double d2 = -99.9;
Assert.AreEqual(-99.9, d2);
Assert.AreEqual(-99.9000000000000, d2);
Run Code Online (Sandbox Code Playgroud)
所以我的最终问题是:是否有可能采取-99.9f并将其转换为double真正平等的-99.9000000000000?
编辑
我找到了一个解决方法,目前看来,对于我的特定应用程序似乎很有效(即我不知道提前将浮点数舍入到精确数位的数字):
float f = -99.9f;
double d = double.Parse(f.ToString("r"));
Assert.AreEqual(-99.9, d);
Run Code Online (Sandbox Code Playgroud)
我不确定这是否适用于所有情况; 欢迎评论
编辑2 根据Lasse V. Karlsen的回答,解决方案是使用等效于AreEqual方法的MSTest:
Assert.AreEqual(-99.9, d, 0.00001);
Run Code Online (Sandbox Code Playgroud)
请注意,如果我要向该delta值添加一个零,则测试将失败
问题是99.9无法在两者中完全表示Single或Double(对应于C#关键字float和double).
这里的问题是.9必须写成两个幂的分数之和.因为底层表示是比特,我们只能为每个比特位置说它是开和关,并且分数侧的每个比特位置意味着1/2 ^ N,这意味着0.9可以表示如下:
1 1 1 1 1 1 1 1 1 1
- + - + - + -- + --- + ---- + ---- + ----- + ----- + ------ + ....
2 4 8 64 128 1024 2048 16384 32768 262144
Run Code Online (Sandbox Code Playgroud)
最后你要么略微低于0.9或略高于0.9,不管你有多少位,因为0.9不能用这样的位来精确表示,但这就是浮点数的存储方式.
你通过调用.ToString(),或者只是Console.WriteLine,或者"" + f甚至在调试器中检查看到的屏幕上的表示都可能被舍入,这意味着你不会看到存储的确切数字,只看到舍入的方式/格式化返回它.
这就是为什么在比较浮点值时,您应该始终使用"epsilon"比较.
您的单元测试基本上说"只要实际值与预期值完全相同,我们就可以了",但在处理浮点值时,这种情况很少发生.事实上,我会说它很少发生,你会立即发现它,除了一件事,当你使用常量作为预期和实际,它们是相同的类型.
相反,您应该编写代码来测试实际值是否足够接近预期值,其中"足够接近"与可能值的范围相比非常小,并且每种情况可能会有所不同.
您不应期望Single和Double可以表示完全相同的值,因此来回转换甚至可能最终返回不同的值.
还要注意,对于.NET,浮点计算在DEBUG和RELEASE构建方面略有不同,因为处理器的内置FPU部分通常可以比存储类型更高的精度运行,这意味着如果编译器/优化器/ jitter最终使用FPU进行一系列计算,结果可能与值暂时存储在编译器生成的变量中时略有不同.
所以这就是你写比较的方式:
if (Math.Abs(actual - expected) < 0.000001) { ... }
Run Code Online (Sandbox Code Playgroud)
哪里0.000001"足够接近".
就许多单元测试框架而言,比如NUnit,您可以要求比较将这一点考虑在内:
Assert.AreEqual(-99.9, d2, 0.000001);
Run Code Online (Sandbox Code Playgroud)
此外,如果您想了解更多相关信息,本文有很多细节:
| 归档时间: |
|
| 查看次数: |
1181 次 |
| 最近记录: |