Ign*_*cio 6 .net c# double multiplication
我有一个简单的乘法问题,我无法理解......我正在使用.Net Framework 4,并在x86中构建.我正在执行以下代码:
double x = 348333.673899683;
double y = 4521014.98461396;
double aux = x * y;
Run Code Online (Sandbox Code Playgroud)
aux的预期值是1574821759346,09949827752137468(我用一个简单的计算器完成了它).但是,我在aux中获得的值是1574821822464.看到这不是精度错误,即使整数部分已被更改.
如果我在乘法中放置一个断点并将鼠标悬停在de*运算符上,我看到x*y = 1574821759346.0994即可.如果我将鼠标悬停在aux变量上,我会看到aux = 1574821822464
为了澄清最后一段,下面可以看到两张图:
首先,我认为可能是因为x86编译,但是阅读下一篇文章,我放弃了这个选项:
我无法理解这里发生了什么.任何帮助将不胜感激.
---编辑更多信息---
我正在使用VS2015.我添加了三行来调试它:
log.Info(x);
log.Info(y);
log.Info(aux);
Run Code Online (Sandbox Code Playgroud)
要显示日志我正在使用库log4net.输出是:
23322 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
24745 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
26274 [8] INFO Art.Model.Scenarios (null) - 1574821822464
Run Code Online (Sandbox Code Playgroud)
因此,它不是debuger中的错误.如果我创建一个全新的项目和解决方案,它可以正常工作,但我无法理解为什么不在这个解决方案中工作.
---第二次编辑---
感谢我的评论,我尝试了一些新的东西:
double x = 348333.673899683;
double y = 4521014.98461396;
double aux = x * y;
decimal xx = 348333.673899683m;
decimal yy = 4521014.98461396m;
decimal auxx = xx * yy;
log.Info(x);
log.Info(y);
log.Info(aux);
log.Info(xx);
log.Info(yy);
log.Info(auxx);
Run Code Online (Sandbox Code Playgroud)
结果是:
16129 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
16145 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
16145 [8] INFO Art.Model.Scenarios (null) - 1574821822464
16145 [8] INFO Art.Model.Scenarios (null) - 348333,673899683
16145 [8] INFO Art.Model.Scenarios (null) - 4521014,98461396
16145 [8] INFO Art.Model.Scenarios (null) - 1574821759346,0994982775213747
Run Code Online (Sandbox Code Playgroud)
所以它适用于小数但不适用于double.有人可以解释一下吗?我不明白为什么会这样.
小智 3
最有可能的是,如果您使用 DirectX(我能找到问题背后的唯一原因),这个问题似乎与以下事实有关:每次创建和/或处理设备时,它都会强制 FPU 进入单精度模式,因此失去准确性并导致 double、long、decimal 变量被截断。如果我尝试使用 IEEE-754 浮点转换器并输入您的数据,我会得到这个结果,这正是您的情况:您的数据在某些时候被读取为双精度数,但随后它被截断为单个. 精度浮点数,如您所见:
这个问题可以通过在 FpuPreserve 标志下显式构建 Device 对象来解决。
我也遇到了这个问题,一开始虽然是关于不正确的转换等等,直到经过长时间的跟踪发现在我构建 DirectX 设备对象后值被截断。
| 归档时间: |
|
| 查看次数: |
4264 次 |
| 最近记录: |