了解浮点精度

Chr*_*gis 3 c++ floating-point floating-point-precision

是这样的情况:

  1. 可表示的浮点值在零附近的实数行中最密集?
  2. 当数字线偏离零时,可表示的浮点值会变稀疏(指数?)?
  3. 如果以上两个都是真的,那是否意味着距离零更远的精度更低

总体问题:精确度在某种程度上是指或可以依赖于您可以表示的数字密度(准确)吗?

Gen*_*ene 8

术语精度通常是指所表示的值中的有效位数(位).因此精度随着表示的尾数中的位(或数字)的数量而变化.与原点的距离没有任何作用.

你说的关于实线上浮子密度的真实情况.但在这种情况下,正确的术语是准确性,而不是精确性.小幅度的FP数字比较大的FP数字准确得多.这与整数形成对比,整数在其范围内具有统一的精度.

强烈推荐" 每个计算机科学家应该知道的关于浮点算术的文章",其中涵盖了这一点以及更多内容.


mat*_*boy 5

浮点数基本上以科学计数法存储.只要它们被标准化,无论您在数字线上的哪个位置,它们始终具有相同数量的有效数字.

如果您线性地考虑密度,那么当您接近0时,浮点数会呈指数级增加.

当你非常接近0并且指数达到最低点时,浮点数变为非规范化.在这一点上,他们有一个额外的重要数字,因此更精确.