小编Eli*_*elz的帖子

计算精度

如果 x 和 y 都可以(精确地)以浮点形式存储在系统中,那么计算精度会是多少。

x - (x/y) * y
Run Code Online (Sandbox Code Playgroud)

floating-point precision matlab floating-accuracy

3
推荐指数
1
解决办法
78
查看次数

64 位浮点计算是否精确

假设我的概率在 0.1 和 0.2 之间(其中 10,000 个),我想存储结果,即 64 位浮点中所有这些概率的乘积?它是一个可靠的计算吗?

floating-point precision numerical-methods

0
推荐指数
1
解决办法
55
查看次数