概率统计经典方法(1):示性函数与概率不等式

您所在的位置:网站首页 概率论全集数学符号 概率统计经典方法(1):示性函数与概率不等式

概率统计经典方法(1):示性函数与概率不等式

2024-07-15 11:26| 来源: 网络整理| 查看: 265

示性函数

示性函数,顾名思义,是表示自变量性态的一个函数。作为一个使用、表达都很简便的函数,它在概率论与数理统计以及实变函数中被广泛运用,但目前市面上的一些概率统计教材上却对示性函数避而不谈,这里就为大家介绍一下示性函数以及它的一些性质与用途。

示性函数的定义

I A ( ω ) = { 0 ω ∉ A 1 ω ∈ A I_A(\omega)=\begin{cases}\\ 0&\omega \notin A\\ 1&\omega \in A\\ \end{cases} IA​(ω)={01​ω∈/​Aω∈A​ 可以看见,示性函数的函数值只取0或1,其下标 A A A表示一个集合,括号内表示自变量 在概率统计中,示性函数可以写作如此 I { X ∈ A } = { 0 X ∉ A 1 X ∈ A I_{\left\{ X\in A \right\}}=\begin{cases}\\ 0&X \notin A\\ 1&X \in A\\ \end{cases} I{X∈A}​={01​X∈/​AX∈A​ 这里的 X X X是一个随机变量,括号可以省略(自变量为 ω \omega ω样本点) 也就是说此时的示性函数是关于随机变量 X X X的一个函数,也是一个随机变量,不妨记 Y = I { X ∈ A } Y=I_{\left\{ X\in A \right\}} Y=I{X∈A}​ 既然示性函数也是个随机变量,那我们可以对它求期望,它的期望是 E Y = E I { X ∈ A } = 1 ⋅ P { X ∈ A } + 0 ⋅ P { X ∉ A } = P { X ∈ A } EY=EI_{\left\{ X\in A \right\}}=1\cdot P{\left\{ X\in A \right\}}+0\cdot P{\left\{ X\notin A \right\}}=P{\left\{ X\in A \right\}} EY=EI{X∈A}​=1⋅P{X∈A}+0⋅P{X∈/​A}=P{X∈A} 也就是说,示性函数的期望就等于它下标事件发生的概率,这是示性函数的一个重要性质。

概率不等式

概率论中有着许许多多重要的不等式,其中包括著名的切比雪夫不等式,但一般教材上给出的证明方法较为繁琐,通常都要分为连续型、离散型来分别证明,但如果我们灵活运用示性函数,可以给出更为巧妙方便的证明方法。

切比雪夫不等式

P { ∣ X − E X ∣ ≥ ϵ } ≤ V a r ( X ) ϵ 2 P{\{ | X-EX| \ge \epsilon \}}\le \dfrac{Var(X)}{{\epsilon}^2} P{∣X−EX∣≥ϵ}≤ϵ2Var(X)​ 证 明 证明 证明 ϵ 2 I { ∣ X − E X ∣ ≥ ϵ } ≤ ∣ X − E X ∣ 2 I { ∣ X − E X ∣ ≥ ϵ } ≤ ∣ X − E X ∣ 2 {\epsilon}^2I_{\{ | X-EX| \ge \epsilon \}}\le|X-EX|^2I_{\{ | X-EX| \ge \epsilon \}}\le|X-EX|^2 ϵ2I{∣X−EX∣≥ϵ}​≤∣X−EX∣2I{∣X−EX∣≥ϵ}​≤∣X−EX∣2 对 上 式 左 端 和 右 端 同 时 取 期 望 , 有 对上式左端和右端同时取期望,有 对上式左端和右端同时取期望,有 ϵ 2 E I { ∣ X − E X ∣ ≥ ϵ } ≤ E ∣ X − E X ∣ 2 ϵ 2 P { ∣ X − E X ∣ ≥ ϵ } ≤ V a r ( X ) {\epsilon}^2EI_{\{ | X-EX| \ge \epsilon \}}\le E|X-EX|^2 \\{\epsilon}^2P{\{ | X-EX| \ge \epsilon \}}\le Var(X) ϵ2EI{∣X−EX∣≥ϵ}​≤E∣X−EX∣2ϵ2P{∣X−EX∣≥ϵ}≤Var(X) 移 项 , 有 切 比 雪 夫 不 等 式 成 立 移项,有切比雪夫不等式成立 移项,有切比雪夫不等式成立

马尔可夫不等式

马 尔 可 夫 不 等 式 是 概 率 论 中 的 另 一 重 要 不 等 式 , 是 切 比 雪 夫 不 等 式 的 一 般 形 式 马尔可夫不等式是概率论中的另一重要不等式,是切比雪夫不等式的一般形式 马尔可夫不等式是概率论中的另一重要不等式,是切比雪夫不等式的一般形式 若 仅 取 非 负 值 的 随 机 变 量 X 其 n 阶 矩 存 在 , 则 有 下 述 不 等 式 成 立 若仅取非负值的随机变量X其n阶矩存在,则有下述不等式成立 若仅取非负值的随机变量X其n阶矩存在,则有下述不等式成立 P { X ≥ ϵ } ≤ E X n ϵ n P{\{ X\ge \epsilon \} \le \dfrac{EX^n}{ {\epsilon}^n}} P{X≥ϵ}≤ϵnEXn​

证 明 证明 证明 ϵ n I { X ≥ ϵ } ≤ X n I { X ≥ ϵ } ≤ X n {\epsilon}^nI_{\{ X \ge \epsilon \}}\le X^n I{\{ X\ge \epsilon \}}\le X^n ϵnI{X≥ϵ}​≤XnI{X≥ϵ}≤Xn 左 右 端 取 期 望 立 即 得 证 左右端取期望立即得证 左右端取期望立即得证 当 n = 2 时 , 就 是 切 比 雪 夫 不 等 式 当n=2时,就是切比雪夫不等式 当n=2时,就是切比雪夫不等式

推广的马尔可夫不等式

这 一 结 论 是 茆 诗 松 老 师 书 上 的 一 道 习 题 , 是 一 个 非 常 一 般 化 的 结 论 这一结论是茆诗松老师书上的一道习题,是一个非常一般化的结论 这一结论是茆诗松老师书上的一道习题,是一个非常一般化的结论 X 是 仅 取 非 负 值 的 随 机 变 量 , f 是 单 调 非 减 的 正 值 函 数 , 则 有 下 述 不 等 式 成 立 X是仅取非负值的随机变量,f是单调非减的正值函数,则有下述不等式成立 X是仅取非负值的随机变量,f是单调非减的正值函数,则有下述不等式成立 P { X ≥ ϵ } ≤ E f ( X ) f ( ϵ ) P{\{ X\ge \epsilon \} \le \dfrac{Ef(X)}{ f(\epsilon)}} P{X≥ϵ}≤f(ϵ)Ef(X)​ 证 明 证明 证明 f ( ϵ ) I { X ≥ ϵ } ≤ f ( X ) I { X ≥ ϵ } ≤ f ( X ) f(\epsilon)I_{\{ X \ge \epsilon \}}\le f(X)I_{\{ X \ge \epsilon \}}\le f(X) f(ϵ)I{X≥ϵ}​≤f(X)I{X≥ϵ}​≤f(X) 左 右 端 取 期 望 立 即 得 证 左右端取期望立即得证 左右端取期望立即得证 令 f ( x ) = x n , 就 是 马 尔 可 夫 不 等 式 令f(x)=x^n,就是马尔可夫不等式 令f(x)=xn,就是马尔可夫不等式

另一个例子

A , B 是 两 个 事 件 , 试 证 明 ∣ P ( A B ) − P ( A ) P ( B ) ∣ ≤ 1 4 A,B是两个事件,试证明|P(AB)-P(A)P(B)|\le \dfrac{1}{4} A,B是两个事件,试证明∣P(AB)−P(A)P(B)∣≤41​ 证 明 证明 证明 记 X = I A , Y = I B 则 ∣ P ( A B ) − P ( A ) P ( B ) ∣ = ∣ E X Y − E X E Y ∣ = ∣ C o v ( X , Y ) ∣ = ∣ ρ ( X , Y ) ∣ V a r ( X ) V a r ( Y ) 而 V a r ( X ) = E X 2 − ( E X ) 2 = P ( A ) − ( P ( A ) ) 2 ≤ 1 4 同 理 V a r ( Y ) ≤ 1 4 又 ∣ ρ ( X , Y ) ∣ ≤ 1 故 ∣ P ( A B ) − P ( A ) P ( B ) ∣ ≤ 1 4 记X=I_A,Y=I_B \\则|P(AB)-P(A)P(B)|=|EXY-EXEY|=|Cov(X,Y)|=|\rho(X,Y)|\sqrt{Var(X)Var(Y)} \\而Var(X)=EX^2-(EX)^2=P(A)-(P(A))^2\le\dfrac{1}{4} \\同理Var(Y)\le \dfrac{1}{4} \\又|\rho(X,Y)|\le1 \\故|P(AB)-P(A)P(B)|\le \dfrac{1}{4} 记X=IA​,Y=IB​则∣P(AB)−P(A)P(B)∣=∣EXY−EXEY∣=∣Cov(X,Y)∣=∣ρ(X,Y)∣Var(X)Var(Y) ​而Var(X)=EX2−(EX)2=P(A)−(P(A))2≤41​同理Var(Y)≤41​又∣ρ(X,Y)∣≤1故∣P(AB)−P(A)P(B)∣≤41​



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3