j r*_*riv 3 windows spreadsheet microsoft-excel-2003 microsoft-excel
它应该是零,但由于某种原因,结果最后会产生一系列特殊的数字。
此外,这是它的 .xlsx: http://83.212.111.36/Book1.xlsx
http://83.212.111.36/Book1.xlsx
Pin*_*ino 9
这是因为计算机上浮点数表示的精度有限,无法修复,因为这是计算机上数字表示方式的固有问题。可能有解决方法,例如 round() 或公式的巧妙实现以减少错误传播。
Excel 使用 8 字节(64 位)浮点表示,这意味着它可以达到大约 10^-15 的最大精度。然后,不准确可能会分散到计算的各个步骤中。
我建议您阅读有关此主题的维基百科上的这篇文章。
归档时间:
12 年,10 月 前
查看次数:
315 次
最近记录: