在Python中使用0xFFFFFFFF屏蔽检测int32溢出?

Han*_*Sun 5 python binary sign overflow python-3.x

我发现在Python中使用0xFFFFFFFF屏蔽来检测int32溢出可能适用于正数。

表达方式:

x & 0xFFFFFFFF == x
Run Code Online (Sandbox Code Playgroud)

True如果x不流动且x大于0,将返回。

但是,此表达式不适用于负整数,例如:

(-7 & 0xFFFFFFFF) == -7
Run Code Online (Sandbox Code Playgroud)

将返回False,尽管-7不应溢出int32范围。

是否有人对为什么这种方法行不通-7以及如何使其起作用有任何想法?

Ebr*_*Him 6

这是因为 Python 不考虑数字的任何固定宽度。因此,您没有像C/C++语言那样的任何符号位(最高有效位)。换句话说,当您在负数 和 之间进行按位与0xffff时,结果是一个大的正数而不是负数:

>>> print(-7 & 0xFFFF)
65529
>>> print(-7 & 0xFFFFFFFF)
4294967289
>>> 
Run Code Online (Sandbox Code Playgroud)

对上述主张的确认:

>>> x = -1
>>> y = -2
>>> z = -4
>>> x.bit_length()
1
>>> y.bit_length()
2
>>> z.bit_length()
3
>>> 
Run Code Online (Sandbox Code Playgroud)

而在C/C++语言中,数字的宽度是固定的:

#include <iostream>
#include <string>

int main()
{
  int i = -7 & 0xFFFFFFFF;
  std::cout <<  i;
}
Run Code Online (Sandbox Code Playgroud)

输出是相同的负数(如果我们为运算符右侧选择正确的长度&):

-7 
Run Code Online (Sandbox Code Playgroud)

我想你需要定义一个函数来实现你的目标并传递带有长度的数字。(例如 4 字节或 8 字节)。

像这样的东西:

>>> def isOverflow(num, width=32):
    if num > 0 and num > 2**(width-1) -1 :
        return True
    elif num < 0 and abs(num) > 2**(width-1):
        return True
    return False
Run Code Online (Sandbox Code Playgroud)

或者更有效的版本:

def isOverflow(num, width=32):
    if num > 0:
        if num >> width-1:
            return True
    elif num < 0:
        if abs(num) > (1 << width - 1):
            return True
    return False
Run Code Online (Sandbox Code Playgroud)

其工作原理如下:

>>> ================================ RESTART ================================
>>> 
>>> isOverflow(-129,8)
True
>>> isOverflow(-128,8)
False
>>> isOverflow(128,8)
True
>>> isOverflow(127,8)
False
>>> isOverflow(0x7fffffff)
False
>>> isOverflow(0x8fffffff)
True
Run Code Online (Sandbox Code Playgroud)