摘要：在定量的社会学科中，很多问题都是由线性模型或广义线性模型来解决的，而其中，回归分析则是众多统计方法中最重要的方法之一。事实上，只要我们恰当使用回归分析，很多数据里的关系能被简介且有效地概括。然而，若机械或者盲目使用这种方法，错误的结论也容易产生。常见的一种，就是异常值的存在而导致的错误结论。虽然在线性回归模型的观测值服从正态分布时，最小二乘法会是不错的参数估计方法，但由于一些异常值的存在，即使数据集非常大，它们有时也足以严重地扭曲由最小二乘法产生的结果。M估计包括很多的估计方法，它们将最大似然的思想推广用于尺度和位置的稳健测度，通过恰当的方程表达，M估计非常稳健，尤其是对于位置的估计。

关键词：线性模型回归估计最小二乘法M估计稳健回归异常值

Abstract：In quantitative social science, many problems are solved by linear model or generalized linear model. Regression analysis is one of the most important methods in many statistical methods. In fact, as long as we use regression analysis appropriately, the relationships in many data can be summarized and effectively summarized.

However, if this method is used mechanically or blindly, erroneous conclusions  can  be easily generated. A common type of error is the result of the existence of outliers. Although the observation value of linear regression model obeys the normal distribution, the least squares method is a good method to estimate the parameters, but due to some outliers exist, even if the data set is very large, they are sometimes enough to distort the results generated by the least squares method. The M estimation includes many estimation methods, which extend the idea of maximum likelihood to the robust measure of scale and position, and the M estimator is very robust, especially for the estimation of position, by means of the appropriate equation.

Keywords: linear model, regression estimation, least square method M-estimation, robust regression

目录

第一章 绪论6

第二章 稳健回归7

2.1何为“稳健”7

2.2稳健回归的定义„8

2.3稳健估计量的性质9

第三章 M估计11

3.1M估计相关概念„11

3.2M估计算法„12

3,3M估计常用目标函数„12

第四章 M估计的实例分析„19

4.1 M估计在投资组合模型中的应用„19

4.1.1样本及数据来源：„19

4.1.2实验结果及分析：„20

4.1.3小结22

第五章 结语„24

参考文献„25

致谢„27

第一章绪论

线性回归模型在自然科学研究以及实践中的应用很广泛，并且至今为止已经取得了丰硕成果。它是一种最为基础的模型，至今为止，线性回归模型的理论和应用已经影响到了其它较为复杂的模型，由此可见其在统计模型中的地位。

在线性模型中,众所周知的经典估计方法是最小二乘法(OLS)，而事实上，最小二乘法在很长的时期以及很大程度上都占据了这一领域的中心位置。不过，异常点极易影响最小二乘法的结果，OLS很多时候并不稳健。在实际运用中，异常点几乎不可避免，在这种情况下，倘若我们依旧用最小二乘法去进行估计，那么显而易见的是，估计的结果不会那么精确，这也就代表着最终的预测效果也不太合理。因此我们也不可否认，最小二乘法在统计学的某些方面表现地很不理想。