● 摘要
基于对偶问题的算法经由Osuna、Thosrtan Joachims、John C. Platt等人的努力,有了非常好的,性能很稳定的典型算法,但是基于原问题的算法近些年才发展起来,是支撑向量机算法的一个重要研究领域．本文由此展开,首先介绍了支撑向量机理论的发展背景,算法的发展状况和当今主要的研究方向,并根据文章的需要,给出了支撑向量机理论的相关概念,如结构风险最小化原则,支撑向量机的对偶问题和原问题的数学表达式及其含义.然后本论文主要讨论了基于原问题训练支撑向量机的算法。首先，讨论了基于原问题训练最小二乘支撑向量机的问题。我们首先讨论了线性情况下基于原、对偶问题训练算法的关系，讨论了使用Cholysky分解求解所得问题时两种算法的计算量。最后将所得结论推广到非线性情况，并用双螺旋数据的分类问题说明了算法的有效性。其次讨论了基于原问题训练2范数支撑向量机的问题。我们首先讨论了训练线性支撑向量机的共轭梯度法，其中包括将原问题转化成等价的无约束极小化问题、梯度和精确步长因子的计算、数值实验等内容。最后说明该算法进行稍微的修正后可以推广到非线性支撑向量机的训练问题，给出了算法和数值实验。