如何在 XGBoost Regressor 中找到模型的系数？

Question

在 XGBoost 回归中预测价格，如何获得模型的系数、截距？如何像我们在 Statsmodel 中获得的线性回归模型一样获得模型摘要？看下面的代码

from xgboost import XGBRegressor

# fit model no training data
model = XGBRegressor()
model.fit(X_train, y_train)

# make predictions for test data
y_pred = model.predict(X_test)

print("R^2: {}".format(model.score(X_test, y_test)))
rmse = np.sqrt(mean_squared_error(y_test, y_pred))
print("Root Mean Squared Error: {}".format(rmse))

这就是我构建模型并尝试获得这样的系数的方式：

#print the intercept
print(model.intercept_)

AttributeError: Intercept (bias) is not defined for Booster type gbtree

print(model.coef_)

AttributeError: Coefficients are not defined for Booster type gbtree

有人可以帮我解决这个问题。谢谢。

Answer 1

xgboost 关于coef_属性的参考说明：

系数仅在选择线性模型作为基础学习器 (booster=gblinear) 时才定义。它没有为其他基本学习器类型定义，例如树学习器 (booster=gbtree)。

默认为 booster=gbtree