M. *_*ope 4 floating-point precision double
对浮点数和双精度数执行运算(如乘法、除法、加法和减法)是否保持其精度?
例如,如果我将 1000 个浮点数相乘(或相除、相加、相减),我还能保持 7 位精度吗?
我在这个网站上读到保持精度(http://floating-point-gui.de/formats/fp/),但我想仔细检查一下。
有精度,也有准确度。a 的精度float始终相同。但是计算的准确性取决于各种特定于实现的细节。
例如,如果每次计算都引入了半个 LSB 的错误,那么在 1000 次计算之后,结果可能会偏离 500 个 LSB。因此,尽管答案将精确到 7 位,但它只能精确到 4 位。