谁能解释一下最不精确的 ULP 单位?我有以下定义,但仍然不清楚
“表示分数时误差的大小与存储的数字的大小成正比。ULP 或最小精度单位定义了存储数字时可以获得的最大误差。存储的数字越大,ULP 就越大。”
它到底是什么意思?提前致谢
testing math precision fractions
fractions ×1
math ×1
precision ×1
testing ×1