.NET上的双精度问题

Question

我有一个简单的C#函数:

public static double Floor(double value, double step)
{
    return Math.Floor(value / step) * step;
}

计算较高的数字,低于或等于"值",即"步数"的倍数.但它缺乏精确性,如下面的测试所示:

[TestMethod()]
public void FloorTest()
{
    int decimals = 6;
    double value = 5F;
    double step = 2F;
    double expected = 4F;
    double actual = Class.Floor(value, step);
    Assert.AreEqual(expected, actual);
    value = -11.5F;
    step = 1.1F;
    expected = -12.1F;
    actual = Class.Floor(value, step);
    Assert.AreEqual(Math.Round(expected, decimals),Math.Round(actual, decimals));
    Assert.AreEqual(expected, actual);
}

第一个和第二个断言都可以,但是第三个断言失败,因为结果只等到第6个小数位.这是为什么？有没有办法纠正这个？

更新如果我调试测试我看到值相等,直到第8个小数位而不是第6个,可能是因为Math.Round引入了一些不精确.

注意在我的测试代码中,我写了"F"后缀(显式浮点常量),其中我的意思是"D"(双),所以如果我改变它,我可以有更多的精度.

Answer 1

我实际上希望他们没有为浮点数和双精度数实现==运算符.要问一个double或float是否等于任何其他值,几乎总是错误的做法.

Answer 2

计算机上的浮点运算不是Exact Science :).

如果要精确到预定义的小数位数,请使用Decimal而不是double或接受小间隔.

Answer 3

如果省略所有F后缀(即-12.1代替-12.1F),您将获得更多相等的几位数.您的常量(尤其是预期值)现在是浮动的,因为F.如果您是故意这样做,请解释.

但对于其余的我同意比较双重或浮动值的平等的其他答案,它只是不可靠.

Answer 4

http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems

例如，0.1和0.01（二进制）的不可表示性意味着尝试对0.1求平方的结果既不是0.01，也不是最接近它的可表示数。

仅在需要机器对数字系统的解释（二进制）时才使用浮点数。您不能代表10美分。

Answer 5

如果需要precision,请使用System.Decimal.如果需要速度,请使用System.Double(或System.Float).浮点数不是"无限精度"数,因此断言相等必须包含容差.只要您的数字具有合理的有效位数,就可以了.

• 如果你想在非常大和非常小的数字上做数学运算,不要使用float或double.
• 如果您需要无限精度,请不要使用float或double.
• 如果要聚合非常多的值,请不要使用float或double(错误会自行复合).
• 如果您需要速度和尺寸,请使用float或double.

请参阅此答案(也由我),详细分析精度如何影响数学运算的结果.