支持向量机的大样本迭代训练算法
(三亚理工职业学院,海南 三亚 572022)
摘要
针对支持向量机(SVM)的大样本训练问题,提出了一种新的迭代训练算法。为了构建初始训练样本集,运用K均值聚类算法压缩训练样本集,将各聚类质心作为初始训练样本集,减少样本间多余的信息,以提升训练速度。为了保证训练精度,以所得质心为初始样本集添加分类的边界样本和错分样本,并以其作为训练样本举行迭代训练,直到错分样本数量稳定为止。此处K均值聚类的SVM迭代训练算法能在维持训练精度的同时减小运算复杂度,优化以提高分类和训练速度。
关键词
支持向量机;K均值聚类算法;迭代算法;机器学习
参考文献
- [1] LI J M,ZHANG B,LIN F Z. Training Algorithms for Support Vector Machines [J].Journal of Tsinghua University,2003,43(1):120-124.
- [2] PLATT J C. Fast Training of Support Vector Machines Using Sequential Minimal Optimization [C]//Advances in Kernel Methods-Support Vector Learning.Cambridge:MIT Press,1999:185-208.
- [3] KEERTHI S S,SHEVADE S K,BHATTACHARYYA C,et al. A Fast Iterative Nearest Point Algorithm for Support Vector Machine Classifier Design [J].IEEE Transactions on Neural Networks,2000,11(1):124-136.
- [4] 安金龙.支持向量机若干问题的研究 [D].天津:天津大学,2004.
- [5] SCHÖLKOPF B,MIKA S,BURGES C J C,et al. Input Space versus Feature Space in Kernel-Based Methods [J].IEEE Transactions on Neural Networks,1999,10(5):1000-1017.
- [6] 王秀菲.基于特征加权支持向量机的复合材料粘接缺陷量化识别研究 [D].呼和浩特:内蒙古大学,2011.
- [7] 李飞,李红莲.支持向量机大规模样本快速训练算法 [J].北京信息科技大学学报:自然科学版,2012,27(2):83-87.
- [8] 刘莉.支持向量机及其在遥感图像处理中的应用 [D].合肥:中国科学技术大学,2005.
- [9] 孟媛媛.模糊支持向量机的研究与应用 [D].济南:山东师范大学,2006.
- [10] 孔锐.基于核的学习方法及其在人脸识别中的应用研究 [D]. 合肥:中国科学技术大学,2004.
- [11] 田新梅,吴秀清,刘莉.大样本情况下的一种新的SVM迭代算法 [J].计算机工程,2007(8):205-207.
- [12] 郭振凯,宋召青,毛剑琴.基于改进的SVMR的混沌时间序列预测 [J].控制工程,2008(4):385-388.
- [13] DUDA R O,HART P E,STORK D G. Pattern Classification: 2nd ed [M].New York:John Wiley & Sons,2001.
作者简介
陈积茂(1995—),男,汉族,海南乐东人,讲师,本科,研究方向:数学、算法和程序设计。