协方差

偏执的太偏执、 2022-05-09 09:58 227阅读 0赞

标准差和方差一般是用来描述一维数据的，这是我们已经掌握的内容，但现实生活我们常常遇到含有多维数据的数据集，最简单的大家上学时免不了要统计多个学科的考试成绩。面对这样的数据集，我们当然可以按照每一维独立的计算其方差，但是通常我们还想了解更多，比如，一个男孩子的猥琐程度跟他受女孩子欢迎程度是否存在一些联系啊，嘿嘿~协方差就是这样一种用来度量两个随机变量关系的统计量，我们可以仿照方差的定义：

![24152520-57efb2d1a89446f1ac4691a88bea7d8e.jpg][]

来度量各个维度偏离其均值的程度，标准差可以这么来定义：

![24152533-db0b66a3311c4f03899fad76aeb12d74.jpg][]

协方差的结果有什么意义呢？如果结果为正值，则说明两者是正相关的(从协方差可以引出“相关系数”的定义)，也就是说一个人越猥琐就越受女孩子欢迎，嘿嘿，那必须的~结果为负值就说明负相关的，越猥琐女孩子越讨厌，可能吗？如果为0，也是就是统计上说的“相互独立”。

从协方差的定义上我们也可以看出一些显而易见的性质，如：

![24152550-e90f9fc3901544c9a20720229690aaa9.jpg][]

协方差多了就是协方差矩阵

上一节提到的猥琐和受欢迎的问题是典型二维问题，而协方差也只能处理二维问题，那维数多了自然就需要计算多个协方差，比如n维的数据集就需要计算 n! / ((n-2)!\*2) 个协方差，那自然而然的我们会想到使用矩阵来组织这些数据。给出协方差矩阵的定义：

![24152802-82166a021c784b12a2705e9929d70c07.jpg][]

这个定义还是很容易理解的，我们可以举一个简单的三维的例子，假设数据集有三个维度，则协方差矩阵为

![24152812-b6c5c191189e4ced8201d4c3569dc8f7.jpg][]

可见，协方差矩阵是一个对称的矩阵，而且对角线是各个维度上的方差。

Matlab协方差实战

上面涉及的内容都比较容易，协方差矩阵似乎也很简单，但实战起来就很容易让人迷茫了。必须要明确一点，协方差矩阵计算的是不同维度之间的协方差，而不是不同样本之间的。这个我将结合下面的例子说明，以下的演示将使用Matlab，为了说明计算原理，不直接调用Matlab的cov函数(蓝色部分为Matlab代码)。

首先，随机产生一个10\*3维的整数矩阵作为样本集，10为样本的个数，3为样本的维数。

mysample = fix(rand(10,3)\*50)

![24154512-9eabe066b4f44f47ac8d0994c062fb86.jpg][]

根据公式，计算协方差需要计算均值，那是按行计算均值还是按列呢，我一开始就老是困扰这个问题。前面我们也特别强调了，协方差矩阵是计算不同维度间的协方差，要时刻牢记这一点。样本矩阵的每行是一个样本，每列为一个维度，所以我们要按列计算均值。为了描述方便，我们先将三个维度的数据分别赋值：

>> dim1 = mysample(:,1);  
          >> dim2 = mysample(:,2);  
          >> dim3 = mysample(:,3);

计算dim1与dim2，dim1与dim3，dim2与dim3的协方差：

>> sum((dim1 - mean(dim1)) .\* (dim2 - mean(dim2))) / (size(mysample, 1) - 1)  %得到 -147.0667  
          >> sum((dim1 - mean(dim1)) .\* (dim3 - mean(dim3))) / (size(mysample, 1) - 1)  %得到  -82.2667  
          >> sum((dim2 - mean(dim2)) .\* (dim3 - mean(dim3))) / (size(mysample, 1) - 1)  %得到   76.5111

搞清楚了这个后面就容易多了，协方差矩阵的对角线就是各个维度上的方差，下面我们依次计算：

>> var(dim1)  %得到 227.8778  
          >> var(dim2)  %得到 179.8222  
          >> var(dim3)  %得到 156.7111

这样，我们就得到了计算协方差矩阵所需要的所有数据，调用Matlab自带的cov函数进行验证：

>> cov(mysample)

![24160129-db77c09674bc497096f2509a67b3f8b1.jpg][]

把我们计算的数据对号入座，是不是一摸一样？

Update

今天突然发现，原来协方差矩阵还可以这样计算，先让样本矩阵中心化，即每一维度减去该维度的均值，使每一维度上的均值为0，然后直接用新的到的样本矩阵乘上它的转置，然后除以(N-1)即可。其实这种方法也是由前面的公式推导而来，只不过理解起来不是很直观，但在抽象的公式推导时还是很常用的！同样给出Matlab代码实现：

>> temp = mysample - repmat(mean(mysample), 10, 1);  
          >> result = temp' \* temp ./ (size(mysample, 1) - 1)

![24161341-a8902cfe11084d1d9eb4040ea12aed86.jpg][]

总结

理解协方差矩阵的关键就在于牢记它计算的是不同维度之间的协方差，而不是不同样本之间，拿到一个样本矩阵，我们最先要明确的就是一行是一个样本还是一个维度，心中明确这个整个计算过程就会顺流而下，这么一来就不会迷茫了~

另外，说到方差，可能会联想到皮尔逊相关系数，可以参考[https://baike.baidu.com/item/皮尔逊相关系数/12712835?fr=aladdin][https_baike.baidu.com_item_12712835_fr_aladdin]

[24152520-57efb2d1a89446f1ac4691a88bea7d8e.jpg]: /images/20220509/e05bdf9c5ce94036b931a43edcfe9090.png
[24152533-db0b66a3311c4f03899fad76aeb12d74.jpg]: /images/20220509/026b264a2de445cb9a84dc73dc3aa6a5.png
[24152550-e90f9fc3901544c9a20720229690aaa9.jpg]: /images/20220509/6ec8255fc27446c8ab01e47e38a932e8.png
[24152802-82166a021c784b12a2705e9929d70c07.jpg]: /images/20220509/0286c5c147d64ae39b263683881769ab.png
[24152812-b6c5c191189e4ced8201d4c3569dc8f7.jpg]: /images/20220509/55e98d1b882c408b929b52de007ae23a.png
[24154512-9eabe066b4f44f47ac8d0994c062fb86.jpg]: /images/20220509/9c6e5850f71342ed9d6601db71b12a5a.png
[24160129-db77c09674bc497096f2509a67b3f8b1.jpg]: /images/20220509/48f264c049864e0897d5b1b73f9db3f7.png
[24161341-a8902cfe11084d1d9eb4040ea12aed86.jpg]: /images/20220509/83a6d9234d0449feb9d93199e11ad131.png
[https_baike.baidu.com_item_12712835_fr_aladdin]: https://baike.baidu.com/item/%E7%9A%AE%E5%B0%94%E9%80%8A%E7%9B%B8%E5%85%B3%E7%B3%BB%E6%95%B0/12712835?fr=aladdin