● 摘要
随机变量之间依赖关系的估计, 是一个非常重要的问题.统计学中典型相关分析,回归分析和片逆回归, 人工智能中的模式识别、排序和半监督学习等等都属于这个范畴.近年来发展起来的统计学习理论, 为该课题的研究提供了新思想和新方向.
本博士学位论文在统计学习理论框架下, 对随机变量之间的依赖关系进行若干方面的研究.我们构造估计的主要算法是, 在合适的假设空间中寻找某个经验风险(泛函)最小化子,进一步, 我们讨论所构造的估计与最优关系之间的误差,并给出了学习率.
第一章阐述了论文的研究背景及意义, 简要介绍了学习理论的常用知识和术语,最后给出论文的内容与结构.
第二章研究了度量随机变量X与Y间相关或独立的检验法.基于再生核Hibert空间范数约束的准则在最近受到了广泛地关注.我们提出了基于系数限制的检验法, 并构造了检验法的估计.特别地, 给出了检验法和它的估计间的误差界.
第三章考虑了对回归逆回归的同时估计.我们提出了核降维的一个一般框架. 一些常用的方法,例如核相关性分析和核切片逆回归,可以统一在这个框架下.这个问题可以通过极小化正则经验协方差来解决,利用机器学习中的思想和方法和再生核Hilbert空间中的交叉协方差算子, 我们对提出的算法建立了收敛速度,本质上推广和改进了文献中已有的结果.
第四章考虑了排序问题.随着互联网时代的到来, 排序问题在统计和机器学习的领域中受到了广泛地关注.我们提出并考虑了基于凸损失的L1-正则化排序问题.在一些温和的条件下,建立了其收敛速度.
第五章研究了半监督学习问题.我们构造了基于扩散矩阵的一种半监督学习算法, 并建立了其逼近阶. 结果还量化地说明了未标记样本的使用可以减少逼近误差, 迄今为止类似的结果在文献中很少见到.
相关内容
相关标签