Chr*_*ris 4 javascript compression long-integer
我正在编写这个 Microsoft字符串解码算法的 Javascript 版本,但它在大量数字上失败。这似乎是因为大小(int / long)问题。如果我单步执行 C# 中的代码,我会看到 JS 实现在这一行失败
n |= (b & 31) << k;
Run Code Online (Sandbox Code Playgroud)
当值是(并且 C# 结果是 240518168576)时会发生这种情况
(39 & 31) << 35
Run Code Online (Sandbox Code Playgroud)
如果我在 C# 中使用这些值,我可以复制 JS 问题,如果b是int. 如果我设置b为long它可以正常工作。
然后我检查了一个 JS 数字的最大大小,并将其与 C# long 进行了比较 result
240518168576 < Number.MAX_SAFE_INTEGER = true
Run Code Online (Sandbox Code Playgroud)
所以..我可以看到发生了某种数字大小问题,但不知道如何强制 JS 将此数字视为长。
完整的JS代码:
private getPointsFromEncodedString(encodedLine: string): number[][] {
const EncodingString = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789_-";
var points: number[][] = [];
if (!encodedLine) {
return points;
}
var index = 0;
var xsum = 0;
var ysum = 0;
while (index < encodedLine.length) {
var n = 0;
var k = 0;
debugger;
while (true) {
if (index >= encodedLine.length) {
return points;
}
var b = EncodingString.indexOf(encodedLine[index++]);
if (b == -1) {
return points;
}
n |= (b & 31) << k;
k += 5;
if (b < 32) {
break;
}
}
var diagonal = ((Math.sqrt(8 * n + 5) - 1) / 2);
n -= diagonal * (diagonal + 1) / 2;
var ny = n;
var nx = diagonal - ny;
nx = (nx >> 1) ^ -(nx & 1);
ny = (ny >> 1) ^ -(ny & 1);
xsum += nx;
ysum += ny;
points.push([ysum * 0.000001, xsum * 0.000001]);
}
console.log(points);
return points;
}
Run Code Online (Sandbox Code Playgroud)
预期输入输出:
编码字符串
qkoo7v4q-lmB0471BiuuNmo30B
解码点:
按位运算符将其操作数视为 32 位 (零和一)的序列,而不是十进制、十六进制或八进制数。例如,十进制数 9 的二进制表示为 1001。按位运算符对这种二进制表示执行运算,但它们返回标准的 JavaScript 数值。
(39 & 31) << 35 当只有 32 位时尝试移动 35 位
要解决此问题,您可以使用BigInt执行这些操作,然后将其向下转换回Number
Number((39n & 31n) << 35n)
Run Code Online (Sandbox Code Playgroud)
你可以试试这个:
function getPointsFromEncodedString(encodedLine) {
const EncodingString = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789_-";
var points = [];
if (!encodedLine) {
return points;
}
var index = 0;
var xsum = 0;
var ysum = 0;
while (index < encodedLine.length) {
var n = 0n;
var k = 0n;
while (true) {
if (index >= encodedLine.length) {
return points;
}
var b = EncodingString.indexOf(encodedLine[index++]);
if (b === -1) {
return points;
}
n |= (b & 31n) << k;
k += 5n;
if (b < 32n) {
break;
}
}
var diagonal = ((Math.sqrt(8 * Number(n) + 5) - 1) / 2);
n -= diagonal * (diagonal + 1) / 2;
var ny = n;
var nx = diagonal - ny;
nx = (nx >> 1) ^ -(nx & 1);
ny = (ny >> 1) ^ -(ny & 1);
xsum += Number(nx);
ysum += Number(ny);
points.push([ysum * 0.000001, xsum * 0.000001]);
}
console.log(points);
return points;
}
Run Code Online (Sandbox Code Playgroud)
| 归档时间: |
|
| 查看次数: |
1805 次 |
| 最近记录: |