相关疑难解决方法(0)

Java中的半精度浮点

在任何地方都可以使用Java库来执行IEEE 754半精度数字的计算或将它们转换为双精度数据吗?

这些方法中的任何一种都是合适的:

  • 将数字保持为半精度格式,并使用整数运算和比特计算进行计算(如MicroFloat用于单精度和双精度)
  • 以单精度或双精度执行所有计算,转换为半精度或从半精度进行传输(在这种情况下,我需要的是经过良好测试的转换函数.)

编辑:转换需要100%准确 - 输入文件中很多NaN,无穷大和次正规.


相关问题,但对于JavaScript:在Javascript中解压缩半精度浮点数

java floating-point precision ieee-754

30
推荐指数
1
解决办法
1万
查看次数

使用"特殊"表将2字节转换为十进制

我有一个需要转换为十进制值的2字节数组(21,121).我从中读取数字的硬件包括手册中这个方便的小表:

高低转换率

问题是,我不确定这个方便的小桌子试图告诉我什么.有人可以帮助解释它并建议一种方法,我可以使用c#将其转换为十进制?

我一般习惯BitConverter这个转换,但在这种情况下,我得到30977的值.由于这是一个温度值,我发现很难相信它是那么热...所以我怀疑我经常使用BitConvert isn不够.

c#

4
推荐指数
1
解决办法
657
查看次数

标签 统计

c# ×1

floating-point ×1

ieee-754 ×1

java ×1

precision ×1