小编Gov*_*nor的帖子

为什么Float16(1.1)-Float16(1)=Float16(0.0996)?

我正在尝试手工计算Float16(1.1)-Float16(1)。由于 Float16 允许分数使用 10 位,因此当我以 10 位精度手动进行减法时,我不会得到 0.0996。

有人可以指导我如何使用这些位进行减法吗?

julia

4
推荐指数
1
解决办法
124
查看次数

标签 统计

julia ×1