(初学)从协方差到协方差矩阵,再到特征向量和特征值

您所在的位置:网站首页 矩阵的特征分解的重要性 (初学)从协方差到协方差矩阵,再到特征向量和特征值

(初学)从协方差到协方差矩阵,再到特征向量和特征值

2024-07-17 15:43| 来源: 网络整理| 查看: 265

通俗易懂理解协方差

协方差,可以通俗易懂理解为:两个变量在变化过程中是同方向变化?还是反方向变化?同向或反向程度如何? 你变大,同时我也变大,说明两个变量是同向变化的,这时协方差就是正的。

你变大,同时我变小,说明两个变量是反向变化的,这时协方差就是负的。

从数值来看,协方差的数值越大,两个变量同向程度也就越大。反之亦然。

咱们从公式出发来理解一下: 在这里插入图片描述

公式简单翻译一下是:如果有x,Y两个变量,每个时刻的"X值与其均值之差"剩以Y值与其均值之差"得到一个乘积,再对这每时刻的乘积求和并求出均值(其实是求"期望" ,但就不引申太多新概念了,简单认为就是求均值了)。

方差和协方差的定义

在统计学中,方差是用来度量单个随机变量的离散程度,而协方差则一般用来刻画两个随机变量的相似程度,其中,方差的计算公式为: 在这里插入图片描述 其中,*n* 表示样本量,符号 表示观测样本的均值,这个定义在初中阶段就已经开始接触了。 在此基础上,协方差的计算公式被定义为: 在这里插入图片描述 在这里插入图片描述

从方差/协方差到协方差矩阵

在这里插入图片描述 在这里插入图片描述

特征值和特征向量 定义:

从数学上看,如果向量v与变换A满足

Av=λv

则称向量v是变换A的一个特征向量,λ是相应的特征值。这一等式被称作“特征值方程”。 意思:一个矩阵,左乘一个向量等于一个常数乘这个向量 满足这个条件,v被称为矩阵A的特征向量,λ是A的特征值 举例: 在这里插入图片描述 所以(111)为A 的特征向量,3为特征值

特征值和特征向量的作用

特征值分解可以得到特征值与特征向量,特征值表示的是这个特征到底有多重要,而特征向量表示这个特征是什么 特征值分解是将一个矩阵分解成下面的形式: 在这里插入图片描述 其中Q是这个矩阵A的特征向量组成的矩阵,Σ是一个对角阵,每一个对角线上的元素就是一个特征值。首先,要明确的是,一个矩阵其实就是一个线性变换,因为一个矩阵乘以一个向量后得到的向量,其实就相当于将这个向量进行了线性变换。

比如说下面的一个矩阵M: 在这里插入图片描述 矩阵M,它其实对应的线性变换是下面的形式: 在这里插入图片描述 因为这个矩阵M乘以一个向量(x,y)的结果是: 在这里插入图片描述 上面的矩阵是对称的,所以这个变换是一个对x,y轴的方向一个拉伸变换(每一个对角线上的元素将会对一个维度进行拉伸变换,当值>1时,是拉长,当值



【本文地址】


今日新闻


推荐新闻


    CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3