TI基本数字标准

Question

数字变量是否遵循TI计算器的文档标准？

我真的很惊讶我的TI 83 Premium CE注意到这个测试实际上是真的(即1):

0.1 - > X.

0.1 - > Y.

0.01 - > Z.

X*Y = Z

假设我的计算器会使用IEEE 754标准来表示浮点数,我原以为这会失败.

另一方面,计算2 ^ 50 + 3-2 ^ 50返回0,表明大整数似乎使用这样的标准:我们在这里看到大数字有一个有限的尾数.

Answer 1

TI-BASIC`=`是一个宽容的比较

试试1+10^-12=1你的计算器。这些数字的表示方式并不相同（1+10^-12-1给出1E-12），但您会注意到比较返回 true：这是因为=具有一定的容差。AFAICT 在我的计算器上测试，如果四舍五入到十个有效数字后数字相等，=将返回 true。

其次，

TI 浮点数是一种 BCD 格式，长度为 9 个字节，其中一个字节用于符号和辅助信息，精度为 14 位（7 个字节）。第九个字节用于额外的精度，因此数字可以正确舍入。

有关详细信息，请参阅此处@doynax 链接的来源。