-
liminationcoal
productionprocessi
ntheofvariousa
cci
dent
hidden,improve
dworkersw
o
rking
conditi
onsandworkenvir<
/p>
onme
nt,preve
ntacci
de
ntoccurre
d,pr
om
otesafet
最近想知道特征值、特征值到底有什么物理意义，搜到了这篇文章，<
/p>
共享一下。。。
来源：
孙哲的日志
[1.
特征的数学意义
]
我们先考察一种线性变化，例如
x,y
坐标系的
椭圆方程可以写为
x^2/a^2+y^2/b^2=1
，
那么坐标系关于原点做旋转以后，
椭圆方程
就要发生变换。
我们可以把原坐标系的
(x,y)
乘以一个矩阵，
得到一个
新的
(x',y')
的表示形式，
写为算子的形式就是
(x,y)*M=(x',y')
。
这里的
矩阵
M
代表一种线性变换：拉伸，平移，旋转
。那么，有没有什么
样的线性变换
b(b
是一个向量
)
，使得变换后的结果，看起来和让
(x,y)*b
像是一个数
b
乘以了一个数字
m*b?
换句话说，有没有这样
的矢量
b
，
使得矩阵
A*b
这样的线性变换相当于
A
在矢量
b
上面的投
影
m*b?
如果有，那么
b
就是
A
的一个特征向量，
m<
/p>
就是对应的一
个特征值。
一个矩阵的特征
向量可以有很多个。
特征值可以用特征方
程求出，
特征向量可以有特征值对应的方程组通解求出，
反过来也一
< br>样。例如，设
A
为
3
阶实对称矩阵，
a1=(a,-a,1)T
是
Ax=0
的解，
a2=(a,1,-a)T
是
(A+E)x=0
的解，
a≠2,
则常数
a=?
因为
a1=(a,-a,1)T
是
Ax
=0
的解
,
说明
a1=(a,-a,1)T
是
A
的属
于
0
的特征向量，
a2=(a,1,-
a)T
是
(A+E)x=0
的解，说明
a2=(a,1,-a)T
是
A
的属于
-1
的特征向量。
实对称矩阵属于不同特征值的特征向量式正交的，
所以
a^
2-a-
a=0,a≠2,
所以
a=0
。
dde
n
troubleshootinga
ndre
organiza
ti
oncloseimplementati
ona
ppr
oachandcoalmine
sec
urityproce
duresabout
liminati
oncoal
productionprocessintheofvariousa<
/p>
cci
dent
hidden,impr
ove
dworkersw
orking
conditi
onsandworkenvir
onme<
/p>
nt,preve
ntaccide
nt
occurre
d,pr
omotesafet
还是太抽象了，
具体的说，
求特征向量的关系，
就是把矩阵
A
所代表
的空间，进行正交分解，使得
A
的向量集合可以表示为每个向量
a
在各个特征向量上面的投影长度。
例
如
A
是
m*n
的矩阵
,n>m
，
那么
特征向量就是
m
个
(
因为秩最大是
m)
，
n
个行向量在每个特征向量
E
上面有投影
，
其特征值
v
就是权重。
那么每个行向量现在就可以写为
Vn=(E1*v1n,E2*v2n...
Em*vmn)
，矩阵变成了方阵。如果矩阵的秩
更小，
矩阵的存储还可以压缩。
再
:
由于这些投影的大小代表了
A
在
特征空间各个分量的投影，
那么我们可以使用最小
2
乘法，
求出投影
能量最大的那些分量，
而把剩下的分量去掉，
这样最大限度地保存了
矩阵代表的信息，
同时可以大大降低矩阵需要存储的维度，
简称
PCA
方法。
举个例子，对于
x,y
平面上的一个点
(x,y)
，我对它作线性变换，
(x,y)*[1,0;0
,-1]
，
分号代表矩阵的换行，
那么
得到的结果就是
(x,-y)
，
这个线
性变换相当于关于横轴
x
做镜像。
我们
可以求出矩阵
[1,0;0,-1]
的特征向量有两个，
[1,0]
和
[0,1]
，也就是
x
轴和
y
轴。什么意思呢
?
在
x
轴上的投影，经过这个线性变换，没有改变。在
y
< br>轴上的投影，
乘以了幅度系数
-1
，
并没有发生旋转。
两个特征向量说明了这个线性
变换矩阵对于
x
轴和
y<
/p>
轴这两个正交基是线性不变的。
对于其他的线
性变换矩阵，我们也可以找到类似的，
N
个对称轴，变换后
的结果，
关于这
N
个对称轴线性不变。
这
N
个对称轴就是线性变换
A
的
N
个
特征向量。
这就是特征向量的物理含义所在。
所以，
矩
阵
A
等价于线
性变换
< br>A
。
dde
< br>ntroubleshootinga
ndre
orga
nizati
oncloseimplementati
ona
ppr
oachandcoalmine
securityproce
duresabout
limi
nationcoal
productionprocessintheofvario
usa
cci
dent
hidden,
improve
dworkersw
orking
conditi
onsandworkenvir
o
nme
nt,preve
ntaccide
ntoccurre
d,pr
omotesafet
对于实际应用的矩阵算法中，
经常需要求矩阵的逆：
< br>当矩阵不是方阵
的时候，无解，这是需要用到奇异值分解的办法，也就是
A=PSQ
，
P
和
Q
是互逆的矩阵，而
S
是一个方阵，然后就可以求出伪逆的值。
同时，
A=PSQ
可以用来降低
A
的存储维度，只要
P
是一个是瘦长形
矩阵，
< br>Q
是宽扁型矩阵。
对于
A
非常大的情况可以降低存储量好几个
数量级。
[2.
物理意义
]
特征向量有什么具体的物理意义
?
例
如一个驻波通过一条绳子，
绳子
上面的每个点组成一个无穷维的
向量，
这个向量的特征向量就是特征
函数
sin(t)
，因为是时变的，就成了特征函数。每个点特征值就是每
个点在特定时刻的
sin(x+t)
取值。再如，从太
空中某个角度看地球自
转，
虽然每个景物的坐标在不断的变换，
但是这种变换关于地球的自
传轴有对称性，
也就是关于此轴的平移和拉伸的坐标变换不敏感。
所
以地球
自转轴，是地球自转这种空间变换的一个特征向量。
Google
的
PageRank
，就是对
www
链接关系的修正邻接矩阵的，主要特征
向量的投影分量，给出了
页面平分。有什么特性呢
? AB
和
B
A
有相同
的特征向量
----
设
AB
的特征向量为
x
，
对应的特征值为
b
< br>，
则有
(AB)x
= bx<
/p>
，将上式两边左乘矩阵
B
，得
B(AB)x = (BA)(Bx) = b(Bx)
，故
b
为
BA
的特征值，对应的
特征向量为
Bx
。反之亦然。
什么是特征矩阵和特征值？我们用整体论来考虑，
假设
P(A)=(1,2,3)
是
A
的
3
个特征向量。那么
P(A^2)
就是
(1^2,2^2,3^2)
，<
/p>
P
可以看
dde
ntroubleshootinga
ndre
organiz
ati
oncloseimplementati
ona
ppr
oachandcoalmine
se
curityproce
duresabout
liminat
ioncoal
productionprocessintheofvariousa
cci
dent
hidden,imp
rove
dworkersw
orking
conditi
onsandworkenvir
onme
nt,preve
ntaccide
n
toccurre
d,pr
omotesafet
作是一种算子。当然，算子的特性是需要用部分
/
细
节详细证明的。
一旦证明，
就可以作为整体的特征。
特征值有什么特性？说明矩阵可
以分解成
N
维特征向量的投影上面，这
N
个特征值就是各
个投影方
向上的长度。由于
n*n
矩阵
A
可以投影在一个正交向量空间里面，
那么任何
N
维特征向量组成的矩阵都可以是线性投影变换矩阵，
那
么
I
就是一个同用的线性变换投影矩
阵。
所以对于特征值
m
，
一定有
是够成了一个没有线性无关向量的矩阵
Aa=
ma
两边同乘以
I
得到
Aa=maI
，
所以
(A-mI)a=0
有非
0
< br>解，
那么
|A-mI|=0(
可
以用反正法，
如果这个行列式不是
0
，
那么
N
个向量线性无关，
在
N
维空间中只能
相交于原
点，不可能有非
0
解
)
。所以可以推出一些很有用的性质，
例如
A=[1/2
,1,1;0,1/3,1;0,0,1/5]
，那么只要满足
|A- mI|=0
的值就
是特征值，
显然特征值数组立即可以得到
(1/2,1/3,1/5)
。<
/p>
一个
n*n
的
矩
阵
A
，秩
=1
，那么最大线性无关组
=1
组，特征向量
=1
个，任意
n
维非零向量都是
A
的特征向量。
特征向量本身不是定死的，
这就好比
坐标系可以旋转一样。
一旦特
征向量的各个方向确定了，
那么特征值
向量也就确定了。求特征
值的过程就是用特征方程：
|A-mE|=0,P(1/A)=1/P(A)
，可以证明。有什么物理含义呢？一个
N
维线性无
关的向量，
去掉其中的一维，
那么就有至少两个向量是线性
相关的了，所以行列式
=0
。特征矩阵有什
么作用？把矩阵变化为正
定矩阵，也就是
A=P^-1BP
，这样的变换，
A
是对角阵。
线性代数的研究，
是把向量和矩阵作为一个整体，
从部分的性质出发，
推到出整体的性质，再由整体的性质得到各
种应用和物理上的概念。
dde
ntroubleshooti
nga
ndre
organizati
oncloseimplementati
ona
ppr
oachandcoalmine
securityproce
duresabout