数理统计9:完备统计量,指数族,充分完备统计量法,CR不等式

您所在的位置:网站首页 证明离散空间完备 数理统计9:完备统计量,指数族,充分完备统计量法,CR不等式

数理统计9:完备统计量,指数族,充分完备统计量法,CR不等式

2024-06-28 19:21| 来源: 网络整理| 查看: 265

昨天我们给出了统计量是UMVUE的一个必要条件:它是充分统计量的函数,且是无偏估计,但这并非充分条件。如果说一个统计量的无偏估计函数一定是UMVUE,那么它还应当具有完备性的条件,这就是我们今天将探讨的内容。由于本系列为我独自完成的,缺少审阅,如果有任何错误,欢迎在评论区中指出,谢谢!

目录Part 1:完备统计量Part 2:指数族Part 3:寻找UMVUE——充分完备统计量法Part 4:Cramer-Rao不等式

Part 1:完备统计量

完备统计量跟充分统计量从名字上看是相对应的,但是完备统计量的意义不像充分统计量那么明确——充分统计量代表能“完全包含”待估参数信息的统计量,而完备统计量则是使得不同的参数值对应不同的统计量分布。具体说来,完备统计量的定义是这样的:

设总体分布族的密度函数为\(f(x;\theta)\),这里\(\theta\in \Theta\)是待估参数,称\(\Theta\)为参数空间(其实我们之前接触过但没有专门提过参数空间的概念)。设\(T=T(\boldsymbol{X})\)为一统计量,若对任何可测函数\(\varphi(\cdot)\)具有以下的条件:

\[\mathbb{E}[\varphi(T(\boldsymbol{X}))]=0\Rightarrow \mathbb{P}(\varphi(T(\boldsymbol{X}))=0)=1,\quad \forall\theta\in\Theta, \]

就称\(T(\boldsymbol{X})\)是完备统计量。如果放宽条件,当\(\varphi(\cdot)\)是有界函数时上式成立,则称此统计量是有界完备统计量。显然,有界完备统计量必是完备统计量。

从线性代数的角度来看,可以把函数空间视为一个无限维向量空间,那么取期望就可以视为该向量空间上的一个映射,容易验证此映射具有线性映射的性质:

\[\mathbb{E}[f(T(\boldsymbol{X}))+g(T(\boldsymbol{X}))]=\mathbb{E}[f(T(\boldsymbol{X}))]+\mathbb{E}[g(T(\boldsymbol{X}))],\\ \mathbb{E}[\lambda f(T(\boldsymbol{X}))]=\lambda\mathbb{E}[f(T(\boldsymbol{X}))], \]

完备性就要求\(T(\boldsymbol{X})\)的选择,会使得期望映射成为一个单射(可以回顾单射的条件是\(\mathrm{null}\mathbb{E}=\{0\}\),可参考此链接),也就意味着每一个期望值都对应唯一的可测函数\(\varphi(\cdot)\)。

特别当\(T(\boldsymbol{X})\)有密度函数\(g(x;\theta)\)时,完备性条件可以写成

\[\int_{-\infty}^\infty \varphi(x)g(x;\theta)\mathrm{d}x=0\Rightarrow \varphi(x)\equiv 0. \]

在将函数空间看成内积空间时,我们一般将\(\int_{-\infty}^\infty\varphi(x)g(x)\mathrm{d}x\)视为\(\langle\varphi(x),g(x)\rangle\),即两个函数的内积,所以\(\int_{-\infty}^\infty\varphi(x)g(x;\theta)\mathrm{d}x=0\)即\(\varphi(x),g(x;\theta)\)正交。完备统计量的密度函数是这样一个函数系\(\{g(x;\theta)\}\):如果\(\varphi(x)\)与函数系中的任意函数正交,则\(\varphi(x)\equiv 0\)。从这一点上,\(\{g(x;\theta)\}\)张成了整个函数空间。

由可测函数的可乘性,如果\(T\)是完备的,则对任何可测函数\(\delta(\cdot)\),\(\delta(T)\)也是完备的。

下面,我们试着用定义来验证均匀分布\(U(a,b)\)的完备统计量是\((X_{(1)},X_{(n)})\)。分别写出其密度函数为

\[f_1(x)=\frac{n(b-x)^{n-1}}{(b-a)^n}I_{a


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3