小编use*_*530的帖子

将float转换为short以最小的精度损失

我有这个正弦波产生浮点值(例如0.37885),但我希望它们作为短路.短流程直接铸造给我的值为0.那么解决方案是什么?

任何人都可以告诉我如何做到这一点 - 理想情况下不会损失精确度 - 或者如果可能的话,最小的精度损失最小化?

java floating-point short

4
推荐指数
2
解决办法
6225
查看次数

使用scipy在dblquad积分中获得的误差是什么意思?

我想知道不同 Python 集成例程(例如 dblquad)给出的错误含义。由于我们不知道确切的积分值,如何计算误差估计?参考是什么?在我的一些计算中,我看到增加积分限制会使误差达到极高的值。既然只是误差的估计,那么依赖这样的结果是否可取呢?

python integration scipy

2
推荐指数
1
解决办法
890
查看次数

标签 统计

floating-point ×1

integration ×1

java ×1

python ×1

scipy ×1

short ×1