GAM广义加性模型、向前逐步回归(变量选择)、部分依赖图 (常用于数据特征分析,查看自变量与因变量关系)

  • Post author:
  • Post category:其他




部分依赖图

常用于数据特征分析,查看自变量与因变量关系

部分依赖图(以下简称PDP)显示了目标响应]和一组“目标”特征之间的依赖关系,并边缘化所有其他特征(“补充”特征)的值。直观地,我们可以将部分依赖关系解释为预期目标响应作为“目标”特征的函数。

GradientBoostingRegressor、pyGAM都可以实现

GradientBoostingRegressor:


https://www.codingdict.com/article/28445



pyGAM:


https://blog.csdn.net/qq_41103204/article/details/104679779?utm_medium=distribute.pc_relevant.none-task-blog-2

default

baidujs_baidulandingword~default-1-104679779-blog-102883556.pc_relevant_vip_default&spm=1001.2101.3001.4242.1&utm_relevant_index=4

边际效应 是从已有拟合模型结果中计算出来的统计量,该数值表示 自变量的变化 对 因变量的变化 的 影响作用 的 大小。

广义相加模型(GAMs):

在这里插入图片描述

之所是”相加性的”,是因为我们对于每个变量Xj都单独计算fj,fj可以是任意形式的函数,最后统一加起来用来预测Y.


https://blog.csdn.net/tongweiganglp/article/details/53422324

回归问题中的加性模型(GAM):


https://zhuanlan.zhihu.com/p/53001283



逐步回归

逐步回归选取特征及GAM模型的使用:


https://www.freesion.com/article/89651405774/


根据AIC准则定义向前逐步回归进行变量筛选:


https://blog.csdn.net/weixin_44835596/article/details/89763300