小编Lid*_*aaa的帖子

浮点数和小数。小数计算

我是Python新手,我正在将程序从VBA Excel重写为Python。

我需要准确的计算,但无法找出合适的方法。

例子:

aa = 0.000016

bb = 0.000016

cc = aa*bb      # which gives 2.5599999999999996e-12

a = decimal.Decimal('0.0000016') 

b = decimal.Decimal('0.0000016')

c = a*b         # which gives 2.56E-12
Run Code Online (Sandbox Code Playgroud)

但当我这样做时:

ccc= aa*b 
Run Code Online (Sandbox Code Playgroud)

它给了我一个错误

我需要一种方法来对所有 Decimal('') 数字执行数学运算或使浮点数字更准确(没有额外的十进制数字(0.0016 而不是 0.0015999996))

python variables vba declaration decimal

1
推荐指数
1
解决办法
4599
查看次数

标签 统计

decimal ×1

declaration ×1

python ×1

variables ×1

vba ×1