TI 操作系统如何编码才不会出现浮点错误?

3 floating-point floating-point-precision ti-basic

我在我的图形计算器上运行了一个测试以检查浮点错误,经过四十八小时的完全和完全随机后,计算器没有损失一位数的精度。

TI 如何解决这个问题?

dan*_*n04 5

TI-89 和 TI-92 通过使用符号计算准确存储值来避免错误。

实际的浮点计算(89/92 上的“近似”模式)确实有错误。它们更难被注意到,因为 TI 计算器显示的数字比它们存储的要少。此外,他们使用十进制而不是二进制。

例如,如果您1/3*3-1在 TI-89 上以“近似”模式输入表达式,您会得到答案,?1.??14而不是0在精确模式下得到的答案。在内部,计算如下:

  • 1/3给出0.33333333333333,四舍五入为 14 位有效数字。
  • 乘以 3 给出0.99999999999999。由于四舍五入,这显示为1.
  • 减去 1 给出-0.00000000000001, 或 -1e-14。