Python中的逐步回归

Question

如何在python中执行逐步回归？在SCIPY中有OLS的方法,但我不能逐步进行.在这方面的任何帮助都将是一个很大的帮助.谢谢.

编辑:我正在尝试建立一个线性回归模型.我有5个自变量并使用前向逐步回归,我的目标是选择变量,使我的模型具有最低的p值.以下链接解释了目标:

https://www.google.co.in/url?sa=t&rct=j&q=&esrc=s&source=web&cd=4&ved=0CEAQFjAD&url=http%3A%2F%2Fbusiness.fullerton.edu%2Fisds%2Fjlawrence%2FStat-On-行%2FExcel%2520Notes%2FExcel%2520Notes%2520-%2520STEPWISE%2520REGRESSION.doc&EI = YjKsUZzXHoPwrQfGs4GQCg&USG = AFQjCNGDaQ7qRhyBaQCmLeO4OD2RVkUhzw&BVM = bv.47244034,d.bmk

再次感谢.

Answer 1

Trevor Smith和我用statsmodel为线性回归写了一个小前向选择函数:http://planspace.org/20150423-forward_selection_with_statsmodels/ 你可以很容易地修改它以最小化p值,或者只选择beta p值多一点工作.

Answer 2

您可以尝试使用多种选择方法的 mlxtend。

from mlxtend.feature_selection import SequentialFeatureSelector as sfs

clf = LinearRegression()

# Build step forward feature selection
sfs1 = sfs(clf,k_features = 10,forward=True,floating=False, scoring='r2',cv=5)

# Perform SFFS
sfs1 = sfs1.fit(X_train, y_train)

Answer 3

Statsmodels 有其他回归方法：http://statsmodels.sourceforge.net/devel/examples/ generated/example_ols.html 。我认为它将帮助您实现逐步回归。