通过前面的三篇笔记，我们基本上搭建了一个计量经济学的分析框架，即模型设定、基本假定、参数估计、统计性质、假设检验。其中，基本假定的满足是保证一切计量分析合理性的前提条件。在这一系列的笔记中，我们都主要参考伍德里奇关于基本假定的表述，可以参考笔记《计量经济学导论02：多元回归模型》中的 MLR.1 至 MLR.6 。从本节开始，我们开始讨论违背基本假定的问题，即如果我们的样本数据没有我们认为的那么理想，我们又该作何处理。

我们在经典假定 MLR.3 中曾提出，多元回归模型应满足不存在完全共线性的假设。在实际应用中，共线性问题是多元回归模型可能存在的一类现象，分为完全共线性和多重共线性两种。完全共线性指的指多元回归模型中的一些或全部解释变量之间存在一种确定的线性关系，而多重共线性指的是一些或全部解释变量之间存在一种不完全但高度相关的线性关系。

注意一点，如果模型中出现了完全共线性，则违背了 MLR.3 的假定；如果模型中出现了多重共线性，则不违背任何一条经典假定，只是估计效果没有那么好而已。认清这一点非常重要，对我们分析多重共线性下参数估计的统计性质有很大的帮助。下面我们给出严格的定义。

完全共线性

对于解释变量 \(X_1,X_2,\cdots,X_k\) ，如果存在不全为 \(0\) 的常数 \(\lambda_1,\lambda_2,\cdots,\lambda_k\)，使得

在矩阵形式中，有 \({\rm r}(\boldsymbol{X})R^2\)，可以认为存在明显的多重共线性问题。

方差膨胀因子法

方差膨胀因子的定义同上，

方差膨胀因子越大，表明解释变量之间的多重共性越严重。反过来，方差膨胀因子越接近于 \(1\) ，多重共线性越弱。若 \({\rm VIF}_j>10\) 且辅助回归 \(R^2_j>0.9\)，可以认为存在明显的多重共线性问题,且这种多重共线性可能会过度地影响最小二乘估计。

处理多重共线性的常用措施如下：

我们主要对逐步回归法和岭回归法做详细解释。

逐步回归法（Stepwise）

逐步回归法的步骤如下：

逐步回归法中解释变量取舍的检验判断方式：

岭回归法（Ridge Regression）

岭回归分析实际上是一种改良的最小二乘法，是一种专门用于共线性数据分析的有偏估计回归方法，其目的是以引入偏误为代价减小参数估计量的方差。

当解释变量之间存在多重共线性时，\(\boldsymbol{X}^{\rm T}\boldsymbol{X}\) 是奇异的，也就是说它的行列式的值接近于 \(0\) ，或者说该矩阵有接近于 \(0\) 的特征根，此时 OLS 估计近乎失效。岭回归方法就是用 \((\boldsymbol{X}^{\rm T}\boldsymbol{X}+r\boldsymbol{D})\) 代替正规方程中的 \(\boldsymbol{X}^{\rm T}\boldsymbol{X}\) 。其中 \(r\) 为大于 \(0\) 的常数，称为岭回归系数，矩阵 \(\boldsymbol{D}\) 一般选择为主对角阵，具体计算方法如下：

此时岭回归的参数估计式为：

关于岭回归系数的选择：由上式可知 \(r\) 越大，\(\tilde{\boldsymbol\beta}(r)\) 对 \(\boldsymbol\beta\) 的偏差越大，但方差越小。因此我们需要选择一个惩罚适中的方案。理论选择最小化均方误差的 \(r\) ：

其中，均方误差的定义为：

实际操作时可以利用统计软件对岭回归系数 \(r\) 进行搜索，直到估计的系数趋于稳定为止。