这是C#SqlDecimal算术错误吗？

Question

我正在尝试实现SQL Server Vardecimal解压缩.值每10位存储为3位十进制数.但在实施过程中,我发现数学的奇怪行为.这是我做的简单测试

private SqlDecimal Test() {

  SqlDecimal mantissa = 0;
  SqlDecimal sign = -1;
  byte exponent = 0x20;
  int numDigits = 0;

  // -999999999999999999999999999999999.99999

  for (int i = 0; i < 13; i++) {

    int temp = 999;

    //equal to mantissa = mantissa * 1000 + temp;
    numDigits += 3;
    int pwr = exponent - (numDigits - 1);
    mantissa += temp * (SqlDecimal)Math.Pow(10, pwr);
  }

  return sign * mantissa;
}

前两次传球很好,我有

999000000000000000000000000000000
999999000000000000000000000000000

但第三个

999999998999999999999980020000000

这是C#SqlDecimal数学中的一些错误还是我做错了什么？

Answer 1

这是您如何构建要在此处添加的值的问题:

mantissa += temp * (SqlDecimal)Math.Pow(10, pwr);

问题从pwr24 开始.你可以在这里看得很清楚:

Console.WriteLine((SqlDecimal) Math.Pow(10, 24));

我的盒子上的输出是:

999999999999999980000000

现在,我不知道究竟哪里这是一个从未来-但它是最简单的完全去除浮点运算.虽然它可能效率不高,但这是一种避免问题的简单方法:

static SqlDecimal PowerOfTen(int power)
{
    // Note: only works for non-negative power values at the moment!
    // (To handle negative input, divide by 10 on each iteration instead.)
    SqlDecimal result = 1;
    for (int i = 0; i < power; i++)
    {
        result = result * 10;
    }
    return result;
}

如果您然后将行更改为:

mantissa += temp * PowerOfTen(pwr);

然后你会得到你期望的结果 - 至少pwr大于零.虽然应该很容易修复PowerOfTen以处理负值.