相关疑难解决方法(0)

在16位,32位和64位IEEE-754系统中可以表示哪些数字?

我知道浮点数是如何表示的,但是还不够,我害怕.

一般问题是:

对于给定的精度(对于我的目的,基数10中的精确小数位数),可以为16位,32位和64位IEEE-754系统表示什么范围的数字?

具体来说,我只对16位和32位数字的范围感兴趣,精确到+/- 0.5(那些位置)或+/- 0.0005(千分位数).

floating-point precision numerical ieee-754

71
推荐指数
4
解决办法
7万
查看次数

标签 统计

floating-point ×1

ieee-754 ×1

numerical ×1

precision ×1