小编Ale*_*eks的帖子

ULP 最低精度单位

谁能解释一下最不精确的 ULP 单位?我有以下定义,但仍然不清楚

“表示分数时误差的大小与存储的数字的大小成正比。ULP 或最小精度单位定义了存储数字时可以获得的最大误差。存储的数字越大,ULP 就越大。”

它到底是什么意思?提前致谢

testing math precision fractions

9
推荐指数
2
解决办法
7891
查看次数

标签 统计

fractions ×1

math ×1

precision ×1

testing ×1