相关疑难解决方法(0)

十进制模块中的重要数字

所以我决定尝试通过编写一些python脚本来解决我的物理作业来为我解决问题.我遇到的一个问题是,重要的数字似乎并不总能正常出现.例如,它可以正确处理重要数字:

from decimal import Decimal
>>> Decimal('1.0') + Decimal('2.0')
Decimal("3.0")
Run Code Online (Sandbox Code Playgroud)

但这不是:

>>> Decimal('1.00') / Decimal('3.00')
Decimal("0.3333333333333333333333333333")
Run Code Online (Sandbox Code Playgroud)

所以有两个问题:

  1. 我是对的,这不是预期的有效数字量,还是我需要刷数字数字?
  2. 有没有办法做到这一点,而无需手动设置小数精度?当然,我确信我可以使用numpy来做到这一点,但我只是想知道是否有一种方法可以用好奇心来处理十进制模块.

python floating-point physics decimal significance

5
推荐指数
1
解决办法
6912
查看次数

标签 统计

decimal ×1

floating-point ×1

physics ×1

python ×1

significance ×1