浮点比较中的问题

Question

void main()
{
    float f = 0.98;
    if(f <= 0.98)
        printf("hi");
    else
        printf("hello");
    getch();
}

我在这里遇到这个问题.使用不同的浮点值得到不同的结果.为什么会这样？

Answer 1

f是使用float精度,但double默认情况下0.98是精度,因此f <= 0.98使用double精度比较语句.

将f因此被转换为double在比较,但也可以使结果大于0.98稍大.

使用

if(f <= 0.98f)

或使用double的f替代.

详细说来......假设float是IEEE单精度并且double是IEEE双精度.

这些浮点数以base-2表示形式存储.在base-2中,此数字需要无限精度来表示,因为它是重复的小数:

0.98 = 0.1111101011100001010001111010111000010100011110101110000101000...

A float只能存储24位有效数字,即

       0.111110101110000101000111_101...
                                 ^ round off here
   =   0.111110101110000101001000

   =   16441672 / 2^24

   =   0.98000001907...

A double可以存储53位有意义的数字,所以

       0.11111010111000010100011110101110000101000111101011100_00101000...
                                                              ^ round off here
   =   0.11111010111000010100011110101110000101000111101011100

   =   8827055269646172 / 2^53

   =   0.97999999999999998224...

所以0.98会变得略大float一些double.

Answer 2

这是因为浮点值并不是数字的精确表示。所有以 10 为基数的数字都需要在计算机上表示为以 2 为基数的数字。正是在这种转换中，精度丢失了。

阅读更多相关内容，请访问http://en.wikipedia.org/wiki/Floating_point

一个例子（我在VB6天遇到这个问题）

要将数字 1.1 转换为单精度浮点数，我们需要将其转换为二进制。需要创建 32 位。

位 1 是符号位（是负数 [1] 还是位置 [0]） 位 2-9 表示指数值 位 10-32 表示尾数（又名尾数，基本上是科学记数法的系数）

因此，对于 1.1，单个浮点值存储如下（这是截断值，编译器可能会在幕后舍入最低有效位，但我所做的就是截断它，这稍微不太准确，但不会改变结果本例）：

s --exp--- -------mantissa--------
0 01111111 00011001100110011001100

如果您注意到尾数中有重复模式 0011。二进制中的 1/10 相当于十进制中的 1/3。它永远持续下去。因此，要从 32 位单精度浮点值中检索值，我们必须首先将指数和尾数转换为十进制数，以便我们可以使用它们。

符号 = 0 = 正数

指数：01111111 = 127

尾数：00011001100110011001100 = 838860

对于尾数，我们需要将其转换为十进制值。原因是二进制数前面有一个隐含的整数（即1.00011001100110011001100）。隐含数字是因为尾数代表科学记数法中使用的标准化值：1.0001100110011.... * 2^(x-127)。

为了从 838860 中得到十进制值，我们只需除以 2^-23，因为尾数中有 23 位。这给我们 0.099999904632568359375。将隐含的 1 添加到尾数，得到 1.099999904632568359375。指数为 127，但公式要求 2^(x-127)。

所以这是数学：

(1 + 099999904632568359375) * 2^(127-127)

1.099999904632568359375 * 1 = 1.099999904632568359375

正如您所看到的，1.1 并不是真正以 1.1 的形式存储在单个浮点值中。