Man*_*lem 3 c# precision managed-directx
我有一个很奇怪的问题。我在即时窗口中运行它:
?(System.Convert.ToDouble(2458963.229671001113318401517D))
2458963.229671001
Run Code Online (Sandbox Code Playgroud)
这是我所期望的!
然后,稍后在我的应用程序中,初始化 Managed DirectX 后,我得到以下信息:
?(System.Convert.ToDouble(2458963.229671001113318401517D))
2458963.25
Run Code Online (Sandbox Code Playgroud)
在我的代码中达到那个点后,永远之后System.Convert.ToDouble()将返回截断和错误的结果。
我已经隔离了导致这种System.Convert.ToDouble()行为变化的单行:
new Device(adapterOrdinal, dType, this, flags, m_presentParams);
Run Code Online (Sandbox Code Playgroud)
这是一个Microsoft.DirectX.Direct3D.Device对象,来自:
// Assembly: Microsoft.DirectX.Direct3D, Version=1.0.2902.0, Culture=neutral, PublicKeyToken=31bf3856ad364e35
Run Code Online (Sandbox Code Playgroud)
我不确定为什么创建 aMicrosoft.DirectX.Direct3D.Device会导致System.Convert.ToDouble()行为方式发生变化。
根据https://docs.microsoft.com/en-us/previous-versions/bb324030(v%3Dvs.85):
创建 Device 对象时,公共语言运行时会将浮点单元 (FPU) 更改为单精度以保持更好的性能。要维护默认的双精度 FPU(公共语言运行时的默认设置),请在创建设备对象时使用 CreateFlags.FpuPreserve 标志
| 归档时间: |
|
| 查看次数: |
61 次 |
| 最近记录: |