mel*_*PLS 4 rounding infinity ieee-754
我很难理解IEEE 754 Rounding约定:
如果我有一个由二进制点右边的9位组成的二进制数,我需要使用最右边的3位来确定舍入,我该怎么办?
这是家庭作业所以这就是为什么我对这个问题模糊不清......我需要帮助这个概念.
谢谢!
朝向正无穷大意味着舍入的结果永远不会小于参数.
向负无穷大舍入意味着舍入的结果永远不会超过参数.
舍入到最接近,与偶数的关系意味着舍入的结果有时更大,有时小于(有时等于)参数.
+0.100101110在二进制点之后将值舍入到六位将导致
+0.100110 // for round towards positive infinity
+0.100101 // for round towards negative infinity
+0.100110 // for round to nearest, ties to even
Run Code Online (Sandbox Code Playgroud)
该值是分开的
+0.100101 110
Run Code Online (Sandbox Code Playgroud)
进入要保留的位和确定舍入结果的位.
由于该值为正且确定位不全为0,因此向正无穷大舍入意味着将保持部分增加1 ULP.
由于该值为正,因此向负无穷大舍入只会丢弃最后一位.
由于第一个截止位为1而并非所有其他位都为0,因此该值+0.100110更接近原始值+0.100101,因此结果为+0.100110.
对最近/偶数情况更具指导意义的是一个或两个我们实际上有一个平局的例子,例如+0.1001在二进制点之后舍入到三位:
+0.100 1 // halfway between +0.100 and +0.101
Run Code Online (Sandbox Code Playgroud)
这里,规则说要选择两个最接近的值的最后一位0(最后一位)的一个,即+0.100该值向负无穷大舍入.但舍入+0.1011将向正无穷大舍入,因为此时两个最接近的值中的较大值最后为0位.