Refer to:

　　当舞台转向了多维随机变量时，方差就变成了协方差，这里的“协”是指几个变量的协同相关性。

　　如果(X, Y)是二维随机变量，且D(X)>0, D(Y)>0，则X,Y的协方差的定义是：

　　和方差类似，E(X)E(Y)是确定的数学期望，对于某一组确定的变量x=X, y=Y来说，X和Y也是定值，因此协方差可进一步转换为：

　　由于E(X)E(Y)是定值，因此可以根据数学期望的性质进一步计算：

　　从直观上来看，协方差表示的是两个变量总体误差的期望。

　　如果两个变量的变化趋势一致，也就是说如果两个变量都大于自身的期望值，那么两个变量之间的协方差就是正值；如果两个变量的变化趋势相反，即其中一个变量大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

　　这相当于同一个变量的协方差等于方差，自己与自己一定同步，无所谓协同。

　　协方差的性质：

协方差只能处理二维问题，对于三维以上数据，就需要计算多个协方差，然后用矩阵将其组织起来，这就是协方差矩阵。

以三维随机变量(X,Y,Z)为例，其协方差矩阵用∑表示：

需要注意的是，协方差矩阵计算的是不同维度之间的协方差，而不是不同样本之间的。

简单来说，协方差矩阵就是两两计算各维度之间的协方差，看看每两个维度之间的相关情况。如果各个变量之间相互独立，那么两个不同维度变量的协方差是0，协方差矩阵就是一个对角矩阵，并且对角线上的每个元素都是该维度的方差：