3 floating-point floating-point-precision ti-basic
我在我的图形计算器上运行了一个测试以检查浮点错误,经过四十八小时的完全和完全随机后,计算器没有损失一位数的精度。
TI 如何解决这个问题?
TI-89 和 TI-92 通过使用符号计算来准确存储值来避免错误。
实际的浮点计算(89/92 上的“近似”模式)确实有错误。它们更难被注意到,因为 TI 计算器显示的数字比它们存储的要少。此外,他们使用十进制而不是二进制。
例如,如果您1/3*3-1在 TI-89 上以“近似”模式输入表达式,您会得到答案,?1.??14而不是0在精确模式下得到的答案。在内部,计算如下:
1/3给出0.33333333333333,四舍五入为 14 位有效数字。0.99999999999999。由于四舍五入,这显示为1.-0.00000000000001, 或 -1e-14。