确定Python中特定数字的精度和比例

Question

我在Python中有一个包含浮点数的变量(例如num = 24654.123),我想确定数字的精度和比例值(在Oracle意义上),所以123.45678应该给我(8,5),12.76应该给我(4,2)等

我第一次考虑使用字符串表示(via str或repr),但那些对于大数字失败(尽管我现在理解浮点表示的局限性是这里的问题):

>>> num = 1234567890.0987654321
>>> str(num) = 1234567890.1
>>> repr(num) = 1234567890.0987654

编辑:

下面的好点.我应该澄清一下.该数字已经是一个浮点数,并通过cx_Oracle被推送到数据库.我正在努力尽我所能在Python中处理对于相应数据库类型来说太大而不执行INSERT和处理Oracle错误的浮点数(因为我想处理数字字段,而不是记录,在一段时间).我猜我map(len, repr(num).split('.'))最接近浮子的精度和比例？

Answer 1

获取小数点左侧的位数很容易:

int(log10(x))+1

由于浮点值固有的不准确性,小数点右边的位数比较棘手.我还需要几分钟来计算出那一个.

编辑:基于这个原则,这是完整的代码.

import math

def precision_and_scale(x):
    max_digits = 14
    int_part = int(abs(x))
    magnitude = 1 if int_part == 0 else int(math.log10(int_part)) + 1
    if magnitude >= max_digits:
        return (magnitude, 0)
    frac_part = abs(x) - int_part
    multiplier = 10 ** (max_digits - magnitude)
    frac_digits = multiplier + int(multiplier * frac_part + 0.5)
    while frac_digits % 10 == 0:
        frac_digits /= 10
    scale = int(math.log10(frac_digits))
    return (magnitude + scale, scale)

Answer 2

浮点变量不可能。例如，输入

>>> 10.2345

给出：

10.234500000000001

因此，要获得6,4，您将必须找到一种方法来区分用户输入10.2345和10.234500000000001，这是使用浮点数无法实现的。这与浮点数的存储方式有关。使用decimal。

import decimal
a = decimal.Decimal('10.234539048538495')
>>> str(a)
'10.234539048538495'
>>>  (len(str(a))-1, len(str(a).split('.')[1]))
(17,15)

Answer 3

似乎是比（Python 2）str更好的选择：repr

>>> r=10.2345678
>>> r
10.234567800000001
>>> repr(r)
'10.234567800000001'
>>> str(r)
'10.2345678'