为什么Visual Studio 2008告诉我.9 - .8999999999999995 = 0.00000000000000055511151231257827？

Question

当我在Visual Studio 2008立即窗口中键入它时:

? .9 - .8999999999999995

它给了我这个答案:

0.00000000000000055511151231257827

文档说双精度具有15-16位精度,但是它给出了32位精度的结果.所有额外的精度来自何处？

Answer 1

这里是只有15-16答案数字.所有那些领先的零都不算数.这个数字实际上更像是5.5511151231257827×10 ^-16.尾数部分有15-16位数字.指数(-16)用于将小数点移动16位,但不会更改总数中的位数.

编辑

得到一些评论之后,我现在好奇真正发生了什么.我将有问题的号码插入到这个IEEE-754转换器中.它将最后一个"27"四舍五入为"30",但我不认为这会改变结果.

转换器将数字分解为三个二进制部分:

符号:0(正)
指数:-51
有效值:1.0100000000000000000000000000000000000000000000000000(二进制为1.25 ₁₀)

所以这个数字是1.01 ₂ ×2 ^-51,或1.25 ₁₀ ×2 ^-51.由于只存储了三个有效的二进制数字,这表明Lars可能存在于某些东西上.它们不能是"随机噪声",因为每次转换数字时它们都是相同的.

数据表明唯一存储的数字是"5".前导零来自指数,其余看似随机的数字来自计算2 ^-51.

Answer 2

您应该阅读:每个计算机科学家应该知道的关于浮点运算的内容 .

基本上,它归结为以有限精度存储的浮点数.你必须与一些delta进行比较.

if(.9 - .8999999999999995 <= 0.0001)
  //close enough to be equal

Answer 3

前导零不是精确/精度的一部分(就浮点数而言 - 从数学上讲,它们很重要).前导零是由浮点数的内部表示的指数部分引起的.

该部分55511151231257827(有效数或尾数)有17个十进制数字,足够接近15-16位数.

@Lars D:你认为是正确的,只在问题的背景下是正确的. .9 - .8999999999999995计算出有效数为0.625且指数为-50的浮点数.取0.625*2 ^-50的结果为5.5511151231257827e-16.现在,在原始问题的上下文中,我们有一个带有17位有效数字的数字,这恰好是我们最好的二进制近似值0.0000000000000005.然而,就浮点数的表示而言,那些前导零仍然不重要.