Toj*_*oji 4 javascript precision
我正在尝试使用包含大量16位浮点数的javascript读取二进制文件.相当肯定它是IEEE标准,小端.将两个字节读入int非常简单,但是从那里我没有太大成功将其扩展为完整的浮点数.有线索吗?
@Toji:非常感谢!这里有一个版本,可以对V8等非高端引擎进行优化
var pow = Math.pow;
function decodeFloat16 (binary) {"use strict";
var exponent = (binary & 0x7C00) >> 10,
fraction = binary & 0x03FF;
return (binary >> 15 ? -1 : 1) * (
exponent ?
(
exponent === 0x1F ?
fraction ? NaN : Infinity :
pow(2, exponent - 15) * (1 + fraction / 0x400)
) :
6.103515625e-5 * (fraction / 0x400)
);
};
Run Code Online (Sandbox Code Playgroud)
以及更完整的IEEE 754测试:
function test() {
var samples = [
0x3C00, // = 1
0xC000, // = ?2
0x7BFF, // = 6.5504 × 10^4 (max half precision)
0x0400, // = 2^?14 ? 6.10352 × 10^?5 (minimum positive normal)
0x0001, // = 2^?24 ? 5.96046 × 10^?8 (minimum strictly positive subnormal)
0x0000, // = 0
0x8000, // = ?0
0x7C00, // = Infinity
0xFC00, // = ?Infinity
0x3555, // ? 0.33325... ? 1/3
0x7C01 // = NaN
],
i = samples.length;
while (i--) samples[i] = decodeFloat16(samples[i]);
return samples.join("\n");
};
Run Code Online (Sandbox Code Playgroud)
性能测试结果与Toji的原始代码进行了比较:
我最终根据Wikipedia页面上的信息实现了自己的解析器。它可能不是最快的,但是我对此不太担心。这里是那些好奇的人:
function float16_to_float(h) {
var s = (h & 0x8000) >> 15;
var e = (h & 0x7C00) >> 10;
var f = h & 0x03FF;
if(e == 0) {
return (s?-1:1) * Math.pow(2,-14) * (f/Math.pow(2, 10));
} else if (e == 0x1F) {
return f?NaN:((s?-1:1)*Infinity);
}
return (s?-1:1) * Math.pow(2, e-15) * (1+(f/Math.pow(2, 10)));
}
function test() {
float16_to_float(parseInt('3C00', 16)); // 1
float16_to_float(parseInt('C000', 16)); // -2
float16_to_float(parseInt('7BFF', 16)); // 6.5504 × 10^4 (Maximum half precision)
float16_to_float(parseInt('3555', 16)); // 0.33325... ? 1/3
// Works with all the test cases on the wikipedia page
}
Run Code Online (Sandbox Code Playgroud)
| 归档时间: |
|
| 查看次数: |
1842 次 |
| 最近记录: |