我知道浮点数是如何表示的,但是还不够,我害怕.
一般问题是:
对于给定的精度(对于我的目的,基数10中的精确小数位数),可以为16位,32位和64位IEEE-754系统表示什么范围的数字?
具体来说,我只对16位和32位数字的范围感兴趣,精确到+/- 0.5(那些位置)或+/- 0.0005(千分位数).
floating-point precision numerical ieee-754
floating-point ×1
ieee-754 ×1
numerical ×1
precision ×1