相关疑难解决方法(0)

如何根据位数计算精度的十进制数?

我正在学习浮点格式(IEEE).在单精度浮点格式中,提到尾数有24位,因此它具有6 1/2的精度十进制数字(如"理解机器"一书)和7.22精度的十进制数字.

我不明白如何计算精度的十进制数字.有人可以赐教吗?

floating-point precision decimal-point

5
推荐指数
1
解决办法
8430
查看次数

标签 统计

decimal-point ×1

floating-point ×1

precision ×1