随机过程:高斯函数导数、梯度

您所在的位置:网站首页 函数求导的作用 随机过程:高斯函数导数、梯度

随机过程:高斯函数导数、梯度

2024-07-07 18:56| 来源: 网络整理| 查看: 265

目录

一、说明

二、一维高斯函数

三、n维高斯函数表达式

四、当n=2维的高斯函数梯度

结论:

一、说明

        高斯函数广泛应用于统计学领域,随机过程,谱分析等。在信号处理领域,用于定义高斯滤波器,在图像处理领域,二维高斯核函数常用于高斯模糊Gaussian Blur,在数理方程领域,主要是用于解决热力方程和扩散方程,以及定义Weiertrass Transform。

        对于AI工程人员,掌握一维高斯函数显得少,而掌握多维的也不常用,一般掌握二维高斯较为合适。对这种函数的基本认知包括,导数、积分、n阶矩等,本篇谈一维和二维高斯函数的导数。

二、一维高斯函数

一维高斯函数表现为:

\large G(x)=\frac{1}{\sqrt{2\pi } \sigma}e^{-\frac{​{(x-\mu)}^2}{2\sigma ^2}}

函数的导数为: 

\large G'(x)=\frac{1}{\sqrt{2\pi } \sigma}e^{-\frac{​{(x-\mu)}^2}{2\sigma ^2}}\begin{bmatrix} -\frac{​{(x-\mu)}^2}{2\sigma ^2} \end{bmatrix}_x'

\large G'(x)=\frac{1}{\sqrt{2\pi } \sigma}e^{-\frac{​{(x-\mu)}^2}{2\sigma ^2}}\begin{bmatrix} -\frac{​{(x-\mu)}^2}{2\sigma ^2} \end{bmatrix}_x'

\large G'(x)=\frac{1}{\sqrt{2\pi } \sigma}e^{-\frac{​{(x-\mu)}^2}{2\sigma ^2}}\begin{bmatrix} -\frac{​{(x-\mu)} }{ \sigma ^2} \end{bmatrix}

一维高斯函数的导数可以写成:

\large G'(x)=G(x)\begin{bmatrix} -\frac{​{(x-\mu)} }{ \sigma ^2} \end{bmatrix}

三、n维高斯函数表达式

        n维高斯函数,一般在随机过程中讨论,指n个随机变量,构成的联合整体分布。但日常工程一般n=2讨论为多。这里先引进高维,不失一般性讨论n=2的高斯函数。

\large f_X(x_1,x_2,...x_n)=\frac{1}{(\sqrt{2\pi})^n}\frac{1}{\sqrt{detK}}exp \begin{bmatrix} -\frac{1}{2}(X-\mu)'K^{-1}(X-\mu) \end{bmatrix}

其中:E(X)=\mu,(其中X和\mu都是向量)。

K= 是什么?这里注意,若是n维度的高斯,就有n个随机变量,这n个随机变量每两个都有一个相关系数:\rho_{Xi,Yj}=corr(X_i,X_j),其中相关系数矩阵是:【这里务必提醒大家--相关矩阵和协方差矩阵不是一码事,但关系紧密!!!】

\rho =\begin{pmatrix} \rho_{11} & \rho _{12}&..... &\rho _{1n} \\ \rho_{21} & \rho _{22}&..... &\rho _{2n} \\ ...& ....& .... & \\ & & & \\ \rho_{11} & \rho _{12}&..... &\rho _{nn} \end{pmatrix}

\rho_{Xi,Yj}=corr(X_i,X_j)=\frac{cov(X_i,X_j)}{\sigma_X_i\sigma_X_j}=\frac{E[(X_i-\mu_X_i)(X_j-\mu_X_j)]}{\sigma_X_i\sigma_X_j}

再次明确:X_i,X_j是两个不同的随机变量。

\rho_{X_i,X_j}=\frac{E(X_iX_j)-E(X_i)E(X_j)}{\sqrt{E(X_i^2)-E(X_i)^2}*\sqrt{E(X_j^2)-E(X_j)^2}}

 因为:\rho_{Xi,Yj}=corr(X_i,X_j)=\frac{cov(X_i,X_j)}{\sigma_X_i\sigma_X_j},所以:

cov(X_i,X_j) =\rho_{Xi,Yj}\cdot {\sigma_X_i\sigma_X_j}

K=\begin{pmatrix} cov(X_1,X_1) & cov(X_1,X_2)& ....& cov(X_2,X_n)\\cov(X_2,X_1) & cov(X_2,X_2)& ....& cov(X_2,X_n) \\ ...& ...& ...& \\ cov(X_n,X_1)& cov(X_n,X_2)& .....&cov(X_n,X_n) \end{pmatrix}

K就是协方差矩阵。 

四、当n=2维的高斯函数梯度

        二维高斯函数在计算机视觉领域用处广泛,利用0均值的二维高斯函数,可以生成高斯卷积核,用于图像处理中的高斯滤波,实现高斯模糊的效果,有效去除高斯噪声。除此之外,halcon应用大量高斯函数进行物件检测,与傅里叶变换结合,能产生机器丰富的算法,

总公式是:

 E(X)=\mu,是期望

K是协方差矩阵:

  

 

因而,X_1,X_2的联合分布函数的密度是:

G=

对X1和X2求偏导数后,得到二元高斯函数梯度:

\large \LARGE \triangledown G=G\begin{bmatrix} (\frac{ -1}{\sigma _1(1-\rho ^2)})[(\frac{x_1-\mu_1}{\sigma _1})-\rho (\frac{x_2-\mu_2}{\sigma _2})]\\ (\frac{ -1}{\sigma _2(1-\rho ^2)})[(\frac{x_2-\mu_2}{\sigma _2})-\rho (\frac{x_1-\mu_1}{\sigma _1})] \end{bmatrix}

结论:

1)多维(二维为例)高斯函数的梯度,一般是在一个椭圆上的梯度,特殊情况在一个圆上(如果在圆上,就成了独立同分布模型)。

2)如果出现二元高斯的时域分析,可以用梯度的泰勒展开化简,近似。



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3