fol*_*oof 1 java math precision floating-accuracy
我有一个关于浮点精度的问题.据我了解,ULP是给定规格中两个连续离散有限数之间的距离.或者名称中最不重要的单位.无论如何,我在java.lang.Math中看到了关于sinh的Java规范:
"计算结果必须在精确结果的2.5 ulps范围内."
我不明白你怎么会有一个不是整数的ULP错误.如果你的距离是2.5 ULP,那是否意味着没有一个地方比最不重要的地方重要？误差为2.5 ULP是什么意思？
Oli*_*rth 7
考虑3/2的计算.确切的结果是1.5.在整数运算中,结果为1.这是0.5的误差,即ULP的一半.
类似的推理可以应用于浮点运算.
归档时间：
14 年，2 月 前
查看次数：
213 次
最近记录：