一元线性回归模型的参数估计

----普通最小二乘法

1、什么是一元线性回归模型?

一元回归模型,是最简单的计量经济学模型.在模型中,只有一个解释变量,被解释变量与解释变量之间存在线性关系.

2、一元回归模型的一般形式:

yi=β0+β1xi+μi, i=1,2,…n (1)

其中,y是被解释变量,x是解释变量,β0、β1是待定参数,μ是随机误差项,yi,xi是随机抽取的n组样本观测值.

该方程满足如下条件:

E(μi)=0

Var(μi)=б2

Cov(μi,μj)=0

Cov(xi,ui)=0

i=1,2,...,n j=1,2,…,n ij

3、模型参数估计的任务

(1)一是求得反映变量之间数量关系的参数(即一元线性回归模型yi=β0+β1xi+μi, i=1,2,…n 中的β0,β1)的估计量;

(2)二是求得随机误差项的分布参数.

4、模型参数估计的普通最小二乘法

普通最小二乘法,是应用最多的参数估计方法.

(1)什么是最小二乘原理

在已经获得样本观测值yi,xi(i=1,2,…,n)的情况下,假如参数估计量已经求得记为,我们可以得到直线方程:

i=1,2,…,n (2)

其中,是被解释变量的估计值,它由参数估计量和解释变量的观测值计算得来.

被解释变量的观测值与估计值,在总体上越接近越好.判断的标准是:

二者之差平方和

最小.

这就是最小二乘原理.

[思考]为什么用平方和,而不直接将二者的差简单相加?

(2)从最小二乘原理,根据样本观测值,具体求参数估计值.

由于, (又 )

=

我们可以知道,Q是二次函数并且是非负数.所以Q的极小值总是存在的.(为什么?)

根据极值存在的必要条件知,

(为什么不是充分条件?)

由此,不难推得:

(4)

进而得到:

(5)

于是解得

(6)

另外,可以将公式(6)

本文档共3页，可免费阅读3页，剩余0页请下载后阅读。继续阅读 

1、本文档共:3页，可阅读全部内容。

2、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。

3、本文档由内容提供方上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重标题与内容不符之情形，可联系本站下载客服投诉处理。