文章详情

摘要

特征选择旨在从高维原始特征中筛选出最具代表性的特征子集，以提升模型预测性能、降低计算复杂度并有效抑制过拟合。然而，传统特征选择方法在刻画复杂的非线性交互关系方面存在明显局限，文章提出一种融合交互筛选与图团搜索的特征选择方法——IFGC-FS。该方法首先基于Kendall相关系数完成主效应特征的初步筛选，继而利用SHAP交互矩阵构建加权特征图，并通过最大团搜索策略挖掘具有强交互关系的特征子集。在6个公开基准数据集上的实验结果表明，IFGC-FS在随机森林和偏最小二乘回归两类模型上均取得了优于对比方法的均方根误差。进一步的Friedman检验结果显示，IFGC-FS能够在显著压缩特征维度的同时保持甚至提升预测性能，充分验证了该方法在揭示复杂特征交互结构、增强模型可解释性与泛化能力方面的有效性。

关键词

特征选择；回归建模；Kendall相关；SHAP交互；最大团

参考文献

1. [1] 李郅琴，杜建强，聂斌，等.特征选择方法综述 [J].计算机工程与应用，2019，55（24）：10-19.
2. [2] Peng H C，Long F H，Ding C. Feature Selection Based on Mutual Information Criteria of Max-dependency, Max-relevance, and min-redundancy [J].IEEE Transactions on Pattern Analysis and Machine Intelligence，2005，27（8）：1226-1238.
3. [3] Battiti R. Using mutual Information for Selecting Features in Supervised Neural Net Learning [J].IEEE Transactions on Neural Networks，1994，5（4）：537-550.
4. [4] Zeng Z L，Zhang H J，Zhang R，et al. A novel Feature Selection Method Considering Feature Interaction [J].Pattern Recognition，2015，48（8）：2656-2666.
5. [5] Hu L，Gao W F，Zhao K，et al. Feature Selection Considering two Types of Feature Relevancy and Feature Interdependency [J].Expert Systems with Applications，2018，93：423-434.
6. [6] Scheetz T E，Kim K Y A，Swiderski R E，et al. Regulation of Gene Expression in the Mammalian Eye and its Relevance to Eye Disease [J].Proceedings of the National Academy of Sciences，2006，103（39）：14429-14434.
7. [7] Bühlmann P，Kalisch M，Meier L. High-dimensional Statistics with a View Toward Applications in Biology [J].Annual Review of Statistics and Its Application，2014，1（1）：255-278.
8. [8] Kendall M G. A New Measure of Rank Correlation [J].Biometrika，1938，30（1/2）：81-93.
9. [9] Fan J Q，Lyu J C. Sure Independence Screening for Ultrahigh Dimensional Feature Space [J].Journal of the Royal Statistical Society Series B：Statistical Methodology，2008，70（5）：849-911.
10. [10] Lundberg S，Lee S I. A Unified Approach to Interpreting Model Predictions [PP/OL].（2017-05-22）.https://arxiv.org/abs/1705.07874.
11. [11] Hagberg A，Swart P J，Schult D A. Exploring Network Structure, Dynamics, and Function Using NetworkX [R].Los Alamos National Laboratory(LANL)，2007.
12. [12] Zhong W X，Liu Y W，Zeng P. A Model-free Variable Screening Method Based on Leverage Score [J].Journal of the American Statistical Association，2023，118（541）：135-146.
13. [13] Pan W L，Wang X Q，Xiao W N，et al. A Generic Sure Independence Screening Procedure [J].Journal of the American Statistical Association，2019，114（526）：928-937.

基金项目

国家自然科学基金（82260849）；江西中医药大学校级科技创新团队发展计划（CXTD22015）；江西中医药大学2024年度学科建设经费资助（2024jzzdxkx026）

作者简介

郑水飞（1998—），男，汉族，江西上饶人，硕士在读，研究方向：数据挖掘、中医药信息学；通信作者：聂斌（1972—），男，汉族，江西峡江人，教授，CCF会员，博士，研究方向：数据挖掘、中医药信息学；章祉瑶（2001—），女，汉族，江西南昌人，硕士在读，研究方向：数据挖掘、中医药信息学；李想（2001—），男，汉族，安徽铜陵人，硕士在读，研究方向：数据挖掘、中医药信息学。