如果 x 和 y 都可以(精确地)以浮点形式存储在系统中,那么计算精度会是多少。
x - (x/y) * y
floating-point precision matlab floating-accuracy
假设我的概率在 0.1 和 0.2 之间(其中 10,000 个),我想存储结果,即 64 位浮点中所有这些概率的乘积?它是一个可靠的计算吗?
floating-point precision numerical-methods
floating-point ×2
precision ×2
floating-accuracy ×1
matlab ×1
numerical-methods ×1