use*_*171 28 microsoft-excel microsoft-excel-2016
你能帮忙吗 - 因为我有一个奇怪的情况,当我在单元格中输入一个数字 22222.09482 然后我在公式栏中看到一个不同的数字 22222.0948199999 。下面是问题的快照。
当我输入以下数字时,我看到了相同的行为:
22222.09482
33333.09482
44444.09482
55555.09482
Run Code Online (Sandbox Code Playgroud)
但是当我输入 11111.09482 和 66666.09482, 77777.09482 ......直到 99999.09482 然后它们显示正确。我不确定这与舍入有关吗?我没有设置任何舍入配置文件。你能帮我解决这个问题吗?
Jep*_*sen 32
这是一个错误。
根据其他答案,Excel 使用通常的 IEEE 双精度表示。它的精度是 53 位有效二进制数字,大约对应于 16 位十进制数字。
显示前15 个有效十进制数字始终是“安全的” 。从某种意义上说,任何用 15 位数字给出的十进制“呈现”数字都可以安全地与通过将第 15 位十进制数字更改为 1 获得的数字区分开来。例如,15 位数字:
22222.09481 99999
22222.09482 00000
22222.09482 00001
Run Code Online (Sandbox Code Playgroud)
映射到三个不同的双精度数。在这种特殊情况下,这三个都不是双精度表示中的“邻居”。
因此,混淆用户显示中的前两个,是 Excel 的一个错误。
实际上,在这个域中(16384到32768之间),绝对精度是2 -38,可以表示以下数字:
...
22222.09481 99998 96571 9714760780334472656250000
22222.09481 99999 00209 9502831697463989257812500 <-- the one closest to what Excel showed to the user
22222.09481 99999 03847 9290902614593505859375000
22222.09481 99999 07485 9078973531723022460937500
22222.09481 99999 11123 8867044448852539062500000
22222.09481 99999 14761 8655115365982055664062500
22222.09481 99999 18399 8443186283111572265625000
22222.09481 99999 22037 8231257200241088867187500
22222.09481 99999 25675 8019328117370605468750000
22222.09481 99999 29313 7807399034500122070312500
22222.09481 99999 32951 7595469951629638671875000
22222.09481 99999 36589 7383540868759155273437500
22222.09481 99999 40227 7171611785888671875000000
22222.09481 99999 43865 6959682703018188476562500
22222.09481 99999 47503 6747753620147705078125000
22222.09481 99999 51141 6535824537277221679687500
22222.09481 99999 54779 6323895454406738281250000
22222.09481 99999 58417 6111966371536254882812500
22222.09481 99999 62055 5900037288665771484375000
22222.09481 99999 65693 5688108205795288085937500
22222.09481 99999 69331 5476179122924804687500000
22222.09481 99999 72969 5264250040054321289062500
22222.09481 99999 76607 5052320957183837890625000
22222.09481 99999 80245 4840391874313354492187500
22222.09481 99999 83883 4628462791442871093750000
22222.09481 99999 87521 4416533708572387695312500
22222.09481 99999 91159 4204604625701904296875000
22222.09481 99999 94797 3992675542831420898437500
22222.09481 99999 98435 3780746459960937500000000 <-- the one closest to what the user types
22222.09482 00000 02073 3568817377090454101562500
22222.09482 00000 05711 3356888294219970703125000
22222.09482 00000 09349 3144959211349487304687500
22222.09482 00000 12987 2933030128479003906250000
22222.09482 00000 16625 2721101045608520507812500
22222.09482 00000 20263 2509171962738037109375000
22222.09482 00000 23901 2297242879867553710937500
22222.09482 00000 27539 2085313796997070312500000
22222.09482 00000 31177 1873384714126586914062500
22222.09482 00000 34815 1661455631256103515625000
22222.09482 00000 38453 1449526548385620117187500
22222.09482 00000 42091 1237597465515136718750000
22222.09482 00000 45729 1025668382644653320312500
22222.09482 00000 49367 0813739299774169921875000
22222.09482 00000 53005 0601810216903686523437500
22222.09482 00000 56643 0389881134033203125000000
22222.09482 00000 60281 0177952051162719726562500
22222.09482 00000 63918 9966022968292236328125000
22222.09482 00000 67556 9754093885421752929687500
22222.09482 00000 71194 9542164802551269531250000
22222.09482 00000 74832 9330235719680786132812500
22222.09482 00000 78470 9118306636810302734375000
22222.09482 00000 82108 8906377553939819335937500
22222.09482 00000 85746 8694448471069335937500000
22222.09482 00000 89384 8482519388198852539062500
22222.09482 00000 93022 8270590305328369140625000
22222.09482 00000 96660 8058661222457885742187500
22222.09482 00001 00298 7846732139587402343750000
...
Run Code Online (Sandbox Code Playgroud)
为了进一步详细说明,请尝试22222.09482
在一个单元格中键入,然后22222.0948199999
在另一个单元格中键入(五个尾随 9)。Excel 应该选择上面箭头指示的两个 IEEE 代表。我认为确实如此,因为您可以计算这两个单元格的差异以获得9.82254E-11
. 但两者都以相同的方式显示。
如果Excel 显示了前17位数字,这将有助于准确找出十进制数字“下方”的 IEEE 数字。在这种情况下:
22222.0948199999 --> 22222.09481 99999 00
22222.09482 --> 22222.09481 99999 98
Run Code Online (Sandbox Code Playgroud)
但是以不正确的方式显示四舍五入的15位数字会产生误导且无益。
在有人声称这是故意的之前,为什么不8.7
表现出相同的行为?最接近的双精度数8.7
是:
8.69999999999999 93
Run Code Online (Sandbox Code Playgroud)
所以它应该显示8.69999999999999
好像这是故意的。但事实并非如此。
man*_*act 22
Excel 以IEEE 754二进制 64 位浮点格式存储数字。关键是“存储”——无论何时存储一个数字,都会发生从十进制到二进制的变化,而不仅仅是在实际计算中使用它时。
一篇关于这方面的好文章是在理解浮点精度上,又名“为什么 Excel 给我看似错误的答案?”
可以制作一个电子表格程序来处理具有很多有效数字的非常大的数字。但这不是很实用。Excel可以设计为使用IEEE 754 decimal128 格式,该格式允许 34 个十进制数字 - 足以存储 22222.09482。但它使用更常见的binary64 双精度格式,它有 53 位精度,不到 16 位。虽然您可能认为这对于只有 10 位数字的数字就足够了,但从十进制到二进制的转换会使事情变得有点复杂——即,2222209482 可以 100% 正确地存储为 binary64 数字,但 22222.09482 不能。
请记住,通常电子表格用于财务数据,这通常不需要精度这么多的数字,或“假设”在各种场景,在不需要精确度的超高层建模研究。当然还有其他工具(可能还有其他电子表格程序,但我最近没有搜索过)默认情况下或通过特殊配置设置可以使用更大的数字格式,但 Excel 不是其中之一。
对于那些指出 LibreOffice 处理得更好的人来说,外观可能是骗人的。有关更多详细信息,请参阅此帖子。LibreOffice 处理大数的方式似乎略有不同,但具有相同的基本 64 位浮点表示,但存在类似问题。
Eug*_*eck 11
在进行计算时,Excel 需要为其使用的数字找到一个良好的内部二进制表示。在您的情况下,它使用浮点数,事实上,这种数据格式对您的数字有一个(非常好的)近似值,但没有完全匹配。因此,如果您没有明确告诉 Excel 使用哪种输出格式,它会“尽力而为”,从而产生更接近内部计算值的输出,但并不完全是您输入的文本。
只是为了说明这一点:理解,您输入的文本代表一个数字并将数字序列转换为数字已经满足上面“计算”的定义。
编辑
我还没有说得足够清楚,我认为选择使用 64 位浮点表示实际上是一个很好的选择:Excel 不是科学家的工具,小数点后第 11 位的舍入错误会导致一个很大的影响,但会计师不希望他们的处理速度降低数百万倍,以适应可能以他们从未使用过的数字形式出现的不精确计算来源。
如果您将电子表格程序用于其设计目的并使用显式输出格式来确保这些效果永远不会进入可见领域,那么您会没事的。
归档时间: |
|
查看次数: |
12150 次 |
最近记录: |