python中的多变量(多项式)最佳拟合曲线？

Question

你如何计算python中的最佳拟合线,然后在matplotlib的散点图上绘制它？

我是使用普通最小二乘回归计算线性最佳拟合线,如下所示:

from sklearn import linear_model
clf = linear_model.LinearRegression()
x = [[t.x1,t.x2,t.x3,t.x4,t.x5] for t in self.trainingTexts]
y = [t.human_rating for t in self.trainingTexts]
clf.fit(x,y)
regress_coefs = clf.coef_
regress_intercept = clf.intercept_      

这是多变量的(每种情况都有很多x值).因此,X是列表列表,y是单个列表.例如:

x = [[1,2,3,4,5], [2,2,4,4,5], [2,2,4,4,1]] 
y = [1,2,3,4,5]

但是我如何使用高阶多项式函数来做到这一点.例如,不仅是线性(x到M = 1的幂),而是二项式(x到M = 2的幂),二次方(x到M = 4的幂),依此类推.例如,如何从以下获得最佳拟合曲线？

摘自Christopher Bishops的"模式识别与机器学习",第7页:

Answer 1

这个问题的公认答案 提供了一个小的多重拟合库,它将使用numpy完全满足您的需求,您可以将结果插入绘图中,如下所述.

您只需传入x和y点的数组以及所需的拟合度(顺序)即可multipolyfit.这将返回系数,然后您可以使用numpy的polyval进行绘图.

注意:下面的代码已经过修改,可以进行多变量拟合,但是情节图像是早期非多变量答案的一部分.

import numpy
import matplotlib.pyplot as plt
import multipolyfit as mpf

data = [[1,1],[4,3],[8,3],[11,4],[10,7],[15,11],[16,12]]
x, y = zip(*data)
plt.plot(x, y, 'kx')

stacked_x = numpy.array([x,x+1,x-1])
coeffs = mpf(stacked_x, y, deg) 
x2 = numpy.arange(min(x)-1, max(x)+1, .01) #use more points for a smoother plot
y2 = numpy.polyval(coeffs, x2) #Evaluates the polynomial for each x2 value
plt.plot(x2, y2, label="deg=3")

注意:这是早期答案的一部分,如果您没有多变量数据,它仍然是相关的.而不是coeffs = mpf(...,使用coeffs = numpy.polyfit(x,y,3)

对于非多变量数据集,最简单的方法是使用numpy polyfit:

numpy.polyfit(x, y, deg, rcond=None, full=False, w=None, cov=False)

最小二乘多项式拟合.

拟合p(x) = p[0] * x**deg + ... + p[deg]度deg为项的多项式(x, y).返回最小化平方误差的系数p的向量.