流形学习国内外研究现状_毕业论文

毕业论文移动版

毕业论文 > 研究现状 >

流形学习国内外研究现状

近年来,在流形学习领域产生了大量的研究成果,涌现出很多具有代表性的特征提 取方法。流形学习方法应用于嵌入在高维空间内低维流形上的数据,分为线性流形学习 方法和非线性流形学习方法。线性流形学习方法有:传统的主成分分析法(Principal Component Analysis)和线性判别分析法(Linear Discriminant Analysis)。然而,流形 数据的非线性特征给维数约简带来了很大的困难。因此,非线性流形学习更有利于数据 非线性结构的提取,非线性高维数据降维算法引起了广泛的关注。等度规映射方法

(ISOMAP)与局部线性嵌入法(Locally Linear Embedding)是两种具有代表性的非线 性降维方法。Tenenbam[5]等人(2000 年)提出了基于全局非线性的 ISOMAP 算法,基本 思想是利用最近邻图中样本点的欧氏距离来计算出样本之间的测地距离。Roweis(2000 年)和 Saul(2004 年)提出了基于局部线性的 LLE 算法,基本思想是在样本点和它的 邻域点之间构建局部线性平面[6]。2000 年 Science 杂志上的两篇文章: Isomap and LLE 的 发表标志了流形学习研究热潮的开始[7]。基于研究非线性分布数据的需要,后来大量的 非线性特征提取方法被提出,如拉普拉斯特征算法(Laplacian Eigenmap)、局部切空间 排列算法(LTSA)等,并且广泛应用于图像处理、语音处理上。

人工神经网络(Artificial Neural Network,ANN)对人脑神经系统特性的一种模拟, 广泛应用于智能控制系统、系统优化、模式识别等领域。人工神经网络由于其出色的非 线性适应性信息处理能力,被广泛应用在非线性数据的处理中,实现在数据预测中的应 用,其中前馈神经网络(BP 神经网络)是目前应用最为广泛的神经网络模型之一。BP 神经网络由 Rumelhart 和 Meceland 于 1986 年提出,其本质是梯度下降算法,是一种包 含有输入层、隐含层和输出层的单向传播的多层前向网络[8]。基于流形学习来提取准确 可靠的数据特征,来防止由于数据特征有限或重复信息造成前馈神经网络的权值退化等 问题出现,进而结合前馈神经网络建立高精度的预测模型。

(责任编辑:qin)