低秩矩阵恢复优化算法设计与实现
关键字 低秩矩阵恢复 RPCA 增广拉格朗日乘子法 视频背景建模
毕业论文设计说明书（论文）外文摘要
Title Low rank matrix recovery optimization algorithm design and implementation
Abstract
This paper mainly carries out the study of theoretical model of low-rank matrix recovery - RPCA model. Firstly, we compare the differences and the respective applicable situations between RPCA and classical PCA. Then, based on the latest related research outcomes, we discuss RPCA model in more detail, such as the proper conditions in which RPCA model can take a correct decomposition, the study of some algorithms, iterative threshold algorithm (IT) , augmented Lagrange multiplier method (ALM), for solving RPCA model. On top of this, the paper discusses, in detail, the ALM method, the nuclear norm optimization problem and matrices L1 norm optimization problem. At last, based on RPCA model associated with ALM algorithm, we conduct experiments on the synthetic data and surveillance video data. The experimental results are analyzed as well, which show that the synthetic data using ALM algorithm can perfectly solve the problem of low-rank matrix recovery; but for surveillance video data, under certain conditions, it can well separate the video background from raw video and, simultaneously, detects the moving objects.
Keywords Low rank matrix recovery, robust PCA, ALM, video background modeling
目 录
1 绪论 1
1.1 背景及研究现状 1
1.2 低秩矩阵恢复的应用 2
1.3 本文的工作与组织结构 4
2 预备知识 6
2.1 向量范数与矩阵范数 6
2.2 奇异值分解（SVD） 6
3 低秩矩阵恢复模型 8
3.1 经典主成分分析（PCA） 8
3.2 鲁棒主成分分析（RPCA） 11
4 模型求解算法 14
4.1 迭代阈值算法（IT） 14
4.2 增广拉格朗日乘子法（ALM） 15
5 实验 21
5.1 合成数据实验 21
5.2 视频背景建模 23
6 总结 25
致谢 26
参考文献
1 绪论
1.1. 背景及研究现状
在人工智能与模式识别、机器学习和计算机视觉等领域中，一个基本原则是数据经常表示成一些特定的结构类型用于智能表示和处理。所以人们通常需要一个参数模型来描述给定的数据集。线性子空间可能是最常见的选择，这主要是因为它们容易计算和便于实现。一些可视化数据，如运动[1,2,3]，人脸[4]，和纹理[5]等，已经被子空间所表示。这就可以很容易地扩展线性模型来处理非线性数据。所以近年来子空间方法已经受到越来越多的关注。例如，广泛使用的主成分分析( principal component analysis，PCA)和最近建立的矩阵补全(matrix completion，MC)[6]和低秩矩阵恢复( low rank matrix recovery，LRMR) [7]，都是基于数据是近似取自低秩子空间这样的假设，即假设观察数据存在(或近似存在) 于一个低文线性子空间中。主成分分析(PCA)子空间学习模型就是利用数据的低文性质来进行文数约简、特征提取和噪声消除。对含独立同分布的高斯小噪声的数据，采用传统的线性子空间方法（比如PCA）非常有效，但对含稀疏大噪声，甚至出现部分缺失的数据却非常敏感。