小编rus*_*uss的帖子

Python - 除法结果中的重要数字位数

新手在这里.我有以下代码:

myADC = 128
maxVoltage = 5.0
maxADC = 255.0
VoltsPerADC = maxVoltage/maxADC
myVolts = myADC * VoltsPerADC
print "myADC = {0: >3}".format(myADC)
print "VoltsPerADC =  {0: >7}".format(VoltsPerADC)
print VoltsPerADC
print "myVolts = {0: >7}".format(myVolts)
print myVolts
Run Code Online (Sandbox Code Playgroud)

这输出如下:

myADC = 128
VoltsPerADC =  0.0196078
0.0196078431373
myVolts =  2.5098
2.50980392157
Run Code Online (Sandbox Code Playgroud)

我一直在寻找有关如何确定有效位数的解释,但是找不到对我有意义的解释.此链接链接文本表明默认情况下,"print"语句将数字打印到10位有效数字,但在我的结果中似乎并非如此.

如何确定有效位数/精度数?

有人可以为我阐明这一点.

提前感谢您的时间和耐心.

python format floating-point digits division

3
推荐指数
1
解决办法
3504
查看次数

标签 统计

digits ×1

division ×1

floating-point ×1

format ×1

python ×1