Wil*_*air 1 vb.net rounding
在某些情况下,Visual Studio 2019 下的舍入不能按文档中概述的方式工作。
在 Visual Studio 2019 下,当我运行 Math.Round(1.275, 2) 时,我得到 1.27。根据默认舍入,它应舍入到最接近的偶数 1.28。如果我运行 Math.Round(0.275, 2),我会得到 0.28。
Mus*_*tor 5
该文档还为您提供了这种意外行为的原因:
对中点值进行舍入时,舍入算法会执行相等性测试。由于浮点格式的二进制表示和精度问题,该方法返回的值可能是意外的。有关详细信息,请参阅舍入和精度。
浮点数根据IEEE 754存储,这并不总是您要存储的实际值的精确表示。您会发现大量资源,可以了解浮点数如何以二进制表示以及 IEEE 754 的工作原理。
归档时间:
3 年,11 月 前
查看次数:
68 次
最近记录: