GNU Octave 失败 hex2dec

Question

遇到一些 HEX 到 DEC转换失败

b = '0x170d21b9' 
bdec = hex2dec(b)

返回

bdec = NaN

但应该是 386736569

在上面的例子中如何将十六进制数转换为整数？

Answer 1

去掉 0x。这是在某些语言中用于表示数字是十六进制的符号，但实际上不是数字的一部分。Octave 的 hex2dec 函数不使用它。把b = '170d21b9'，你会得到bdec = 386736569。