协方差矩阵

Question

向量a的协方差矩阵与a/||a||的协方差矩阵有什么关系？谢谢。。。特别是当a的协方差矩阵为单位阵时

Answer 1

a的协方差矩阵就是E(aa')。其中E代表数学期望，a'代表a的转置。我这里默认你这个a是写成列向量的形式的。
所以a/||a||的协方差矩阵就是E(aa')/||a||^2，就是把a的协方差矩阵里的每个元素都除以||a||^2。
当a的协方差矩阵是单位阵时，a的任意一个元素（都是随机变量）的方差都是1，而且任意两个元素不相关（不相关不代表独立）。追问

可能是我没说清楚，你没有理解我的问题~~我想问的是如果a的协方差矩阵为单位阵I，a/||a||的协方差矩阵会是什么？而且你的回答有错误呀，a/||a||的协方差矩阵怎么会是E(aa')/||a||^2呢，至少||a||^2应该在期望的里面吧!

追答

我的回答完全正确，你还需要搞清楚随机过程里的基本概念。

首先你要搞清楚||a||^2是什么。首先|| ||是个范数。要定义范数，就必须定义内积。
对两个随机变量x和y如何定义内积？答案是两个随机变量相乘，取期望就是内积，也就是E(xy)。
有了内积就有了范数。某个随机变量X的范数就是它自己和自己相乘，取期望，最后开平方。也就是所谓的二阶矩E(x^2)的平方根。

现在，推广一下，对两个（维数相等的）随机向量X和Y如何定义内积？答案是E(XY)=E(x1y1+x2y2+...+xnyn)
定义了内积就有范数。随机向量X的范数就是E(x1^2+x2^2+x3^2+...+xn^2)的平方根，这是一个数。

那个||a||^2是个数字，当然要提出来了。

如果a的协方差是个单位阵，那么显然a的范数就是根号n。

追问

你把问题想复杂啦，||a||^2=a1^2+...+an^2，是个随机变量，不能提到期望符号外面。另外，如果细究的话，赋范线性空间的定义与内积空间的定义无关，只需要范数满足正定性，齐次性以及三角不等式即可。

追答

我学随机变量的时候先定义了内积就是E(xy)，然后诱导出范数。
虽然范数不一定由内积诱导，但是对随机变量，既然有内积，就自然地定义了范数。
要按你的定义也无所谓，反正就是个符号而已，但问题可就复杂了。