误差项方差的无偏估计为
在由正规方程组求时,要求必须存在,即是一非奇异矩阵
由线性代数可知,为阶满秩矩阵
必须有而为阶矩阵,于是应有
在用普通最小二乘法估计多元线性回归模型的未知参数时,样本量必须不能少于模型中参数的个数。
下面讨论多元线性回归参数的最大似然估计。对于多元线性回归的矩阵模型
即服从多变量正态分布,那么的概率分布为来:自[优E尔L论W文W网www.youerw.com +QQ752018766-
这时,似然函数为 其中,未知参数是和,最大似然估计就是选取使似然函数达到最大的和,
使达到最小,与普通最小二乘估计一样,即
误差项方差的最大似然估计为
这是的有偏估计,但它满足一致性。在大样本的情况下,这是的渐近无偏估计。
1。3回归方程的显著性检验
(1)检验
参考一元线性回归中定义样本决定系数,在多元线性回归中,定义样本决定系数为
显然的取值在[0,1]之间,越接近1,则表明回归拟合优度越好,越接近0,则表明回归拟和优度越差。虽然无法作为严格的显著性检验,但是却能够更直观地反映回归拟合的效果。称