我有以下 PythonDecimal变量:
mydecimal = Decimal('1.452300')
Run Code Online (Sandbox Code Playgroud)
以及以下分辨率变量:
resolution = Decimal('0.0001')
Run Code Online (Sandbox Code Playgroud)
如何resolution仅使用这两个变量(这是我在实际例程中将拥有的信息)将变量截断为值:
# Desired result:
truncated_mydecimal = Decimal('1.4523') # <-- How do I get this using 'resolution' and 'mydecimal' ?
Run Code Online (Sandbox Code Playgroud)
这是该quantize()方法的用途:
>>> mydecimal.quantize(resolution)
Decimal('1.4523')
Run Code Online (Sandbox Code Playgroud)
阅读文档,或者做
>>> help(mydecimal.quantize)
Run Code Online (Sandbox Code Playgroud)
更多。注意:resolution变量的精确值无关紧要 - 它是内部指数quantize()关心的。例如,如果我们这样做,上面的输出不会改变:
>>> resolution = Decimal('0.0009')
Run Code Online (Sandbox Code Playgroud)
反而。