● 摘要
核密度估计作为一种非参数概率密度函数估计方法,是数据挖掘、模式识别和其他机器学习领域的关键技术之一。传统的核密度估计通常基于全样本集合出发,对训练数据不加区分地使用,且赋予每个样本点的权值是相同的。该方法忽视了不同数据对密度估计结果贡献的差异性,特别是在样本集规模大且维度高的情况下,其计算时间复杂度与样本数目和维数成正比例增长。为降低计算复杂度,如何简化核密度估计表达式获取稀疏的核密度估计算法一直备受关注。本文针对大规模、高维度的未知数据,提出了两种稀疏核密度估计算法,并且利用得到的稀疏核密度估计算法构建稀疏提升集成分类器,应用于火星探测器软着陆过程中陨石坑的检测。具体的研究内容包括以下几个方面:
首先,研究了核密度估计的实现过程,给出了核函数选择以及多变量核密度估计表示方法,讨论了最优带宽的选择以及核带宽对核密度估计结果的影响,分析了核密度估计的渐近收敛特性,并且实现了Parzen窗(PW)估计方法。
其次,针对PW估计计算用时大的缺点,提出了基于压缩集密度估计的改进稀疏核密度估计算法。在压缩集密度估计的二次优化目标函数中,引入权值系数的加权 范数作为惩罚项,并提出一种迭代算法进行求解,讨论了算法中参数选取、稀疏度和准确度的平衡等问题。实验表明与压缩集密度估计算法相比,该算法具有更稀疏的估计性能和相似的估计精度。
然后,针对一般的稀疏核密度估计算法在获取稀疏度同时准确度损失较大的缺点,提出基于回归估计的稀疏核密度估计算法。将核密度估计问题转换为基于PW估计的回归问题,利用相关向量机技术求解回归问题,密度估计实验表明算法在获得稀疏解同时,能够得到与经典的PW估计算法相似的估计精度。
最后,重点设计了一种稀疏提升集成分类器,其利用提出的稀疏核密度估计算法构建弱分类器,与Boost算法结合得到强分类器,应用于火星探测器软着陆过程中陨石坑的检测。高分辨率图像实验验证了算法的有效性,实现了陨石坑的快速检测。
相关内容
相关标签