Postgres regr_slope 返回 NULL

Hor*_*ndo 2 postgresql rounding aggregate-functions linear-regression sql-null

有人可以帮助我了解regr_slope在数据集中有行的情况下返回 NULL的情况吗?例如:

log=> select * from sb1 order by id, ts;
  id  | elapsed |       ts       
------+---------+----------------
 317e |      86 | 1552861322.627
 317e |      58 | 1552861324.747
 317e |      52 | 1552861325.722
 317e |      58 | 1552861326.647
 317e |      82 | 1552861327.609
 317e |     118 | 1552861328.514
 317e |      58 | 1552861329.336
 317e |      58 | 1552861330.317
 317e |      54 | 1552861330.935
 3441 |      68 | 1552861324.765
 3441 |      84 | 1552861326.665
 3441 |      56 | 1552861327.627
 3441 |      50 | 1552861330.952
 5fe6 |      42 | 1552993248.398
 5fe6 |      44 | 1552993255.883
 5fe6 |      44 | 1553166049.261
 c742 |      62 | 1552861322.149
 c742 |      68 | 1552861322.455
(18 rows)

log=> select id, regr_slope(elapsed, ts) as trend from sb1 group by id;
  id  |        trend         
------+----------------------
 c742 |                     
 317e |                     
 5fe6 | 5.78750952760444e-06
 3441 |                     
(4 rows)
Run Code Online (Sandbox Code Playgroud)

有趣的是,相同的数据集和函数在 Oracle 11.2 中返回不同的结果:

SQL> select * from sb1 order by id, ts;

ID            ELAPSED               TS
---------- ---------- ----------------
317e               86   1552861322.627
317e               58   1552861324.747
317e               52   1552861325.722
317e               58   1552861326.647
317e               82   1552861327.609
317e              118   1552861328.514
317e               58   1552861329.336
317e               58   1552861330.317
317e               54   1552861330.935
3441               68   1552861324.765
3441               84   1552861326.665
3441               56   1552861327.627
3441               50   1552861330.952
5fe6               42   1552993248.398
5fe6               44   1552993255.883
5fe6               44   1553166049.261
c742               62   1552861322.149
c742               68   1552861322.455

18 rows selected.

SQL> select id, regr_slope(elapsed, ts) from sb1 group by id;

ID         REGR_SLOPE(ELAPSED,TS)
---------- ----------------------
c742                   19.6078431
5fe6                   5.7875E-06
317e                   -1.0838511
3441                   -3.8283951

Run Code Online (Sandbox Code Playgroud)

我不知道这是否意味着 Postgres、Oracle 或两者都没有问题,尽管结果5fe6相同。

Lau*_*lbe 5

深入研究代码后,我得到了答案:

问题是 PostgreSQL 到 v12 的幼稚方法在这种情况下会导致不必要的大舍入错误。

让我们考虑id = 'c742'

的公式regr_slope是这样的:

regr_slope:= ( N ⋅ Σ( X iY i ) - Σ X i ⋅ Σ Y i ) / ( N ⋅ Σ( X i 2 ) - Σ X i ⋅ Σ X i )

问题出在除数上:

SELECT 2::float8 * (1552861322.149::float8 * 1552861322.149::float8 +
                    1552861322.455::float8 * 1552861322.455::float8) -
       (1552861322.149::float8 + 1552861322.455::float8) *
       (1552861322.149::float8 + 1552861322.455::float8);

 ?column? 
----------
    -2048 
(1 row)
Run Code Online (Sandbox Code Playgroud)

由于结果是否定的,PostgreSQL 返回一个 NULL 结果。

使用精确计算(使用numeric)不会发生这种情况:

SELECT 2 * (1552861322.149 * 1552861322.149 +
            1552861322.455 * 1552861322.455) -
       (1552861322.149 + 1552861322.455) *
       (1552861322.149 + 1552861322.455);

 ?column? 
----------
 0.093636
(1 row)
Run Code Online (Sandbox Code Playgroud)

由于 PostgreSQL commit e954a727f0c8872bf5203186ad0f5312f6183746,事情得到了改进,并且在 PostgreSQL v12 中,PostgreSQL 也返回了正确的结果:

select id, regr_slope(elapsed, ts) from sb1 group by id;

  id  |      regr_slope       
------+-----------------------
 c742 |    19.607858781290517
 317e |   -1.0838511987808963
 5fe6 | 5.787509483586743e-06
 3441 |    -3.828395463097356
(4 rows)
Run Code Online (Sandbox Code Playgroud)