线性代数学习笔记第七章,参考教材为《Linear Algebra Done Right》。
7.A 自伴算子和正规算子 伴随 定义 设T ∈ L ( V , W ) T\in\mathcal L(V,W) T ∈ L ( V , W ) .T T T 的伴随是满足如下条件的函数T ∗ : W → V T^*:W\to V T ∗ : W → V : ∀ v ∈ V , w ∈ W , < T v , w > = < v , T ∗ w > \forall v\in V,w\in W,\ \left<Tv,w\right>=\left<v,T^*w\right> ∀ v ∈ V , w ∈ W , ⟨ T v , w ⟩ = ⟨ v , T ∗ w ⟩ 伴随是线性映射 若T ∈ L ( V , W ) T\in\mathcal L(V,W) T ∈ L ( V , W ) ,则T ∗ ∈ L ( W , V ) T^*\in\mathcal L(W,V) T ∗ ∈ L ( W , V ) 伴随的性质 对所有S , T ∈ L ( V , W ) S,T\in\mathcal L(V,W) S , T ∈ L ( V , W ) 均有( S + T ) ∗ = S ∗ + T ∗ (S+T)^*=S^*+T^* ( S + T ) ∗ = S ∗ + T ∗ 对所有λ ∈ F , T ∈ L ( V , W ) \lambda\in\bf F,\ T\in\mathcal L(V,W) λ ∈ F , T ∈ L ( V , W ) 有( λ T ) ∗ = λ ˉ T ∗ (\lambda T)^*=\bar\lambda T^* ( λ T ) ∗ = λ ˉ T ∗ 对所有T ∈ L ( V , W ) T\in\mathcal L(V,W) T ∈ L ( V , W ) ,有( T ∗ ) ∗ = T (T^*)^*=T ( T ∗ ) ∗ = T I ∗ = I I^*=I I ∗ = I ,这里的I I I 是V V V 上的恒等算子对所有T ∈ L ( V , W ) , S ∈ L ( W , U ) T\in\mathcal L(V,W),\ S\in\mathcal L(W,U) T ∈ L ( V , W ) , S ∈ L ( W , U ) 均有( S T ) ∗ = T ∗ S ∗ (ST)^*=T^*S^* ( ST ) ∗ = T ∗ S ∗ (U U U 是F \bf F F 上的内积空间) T ∗ T^* T ∗ 的零空间和值域 设T ∈ L ( V , W ) T\in\mathcal L(V,W) T ∈ L ( V , W ) ,则: null T ∗ = ( range T ) ⊥ \text{null}\ T^*=(\text{range}\ T)^\perp null T ∗ = ( range T ) ⊥ range T ∗ = ( null T ) ⊥ \text{range}\ T^*=(\text{null}\ T)^\perp range T ∗ = ( null T ) ⊥ null T = ( range T ∗ ) ⊥ \text{null}\ T=(\text{range}\ T^*)^\perp null T = ( range T ∗ ) ⊥ range T = ( null T ∗ ) ⊥ \text{range}\ T=(\text{null}\ T^*)^\perp range T = ( null T ∗ ) ⊥ 共轭转置m × n m\times n m × n 矩阵的共轭转置是先互换行和列,然后再对每个元素取复共轭得到的n × m n\times m n × m 矩阵 T ∗ T^* T ∗ 的矩阵 设T ∈ L ( V , W ) T\in\mathcal L(V,W) T ∈ L ( V , W ) .假设e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 是V V V 的规范正交基,f 1 , . . . , f m f_1,...,f_m f 1 , ... , f m 是W W W 的规范正交基.则M ( T ∗ , ( f 1 , . . . , f m ) , ( e 1 , . . . , e n ) ) \mathcal M(T^*,(f_1,...,f_m),(e_1,...,e_n)) M ( T ∗ , ( f 1 , ... , f m ) , ( e 1 , ... , e n )) 是M ( T , ( e 1 , . . . , e n ) , ( f 1 , . . . , f m ) ) \mathcal M(T,(e_1,...,e_n),(f_1,...,f_m)) M ( T , ( e 1 , ... , e n ) , ( f 1 , ... , f m )) 的共轭转置. 自伴算子 定义 算子T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 称为自伴的,如果T = T ∗ T=T^* T = T ∗ ,也就是说,T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是自伴的当且仅当∀ v , w ∈ V , < T v , w > = < v , T w > \forall v,w\in V,\ \left<Tv,w\right>=\left<v,Tw\right> ∀ v , w ∈ V , ⟨ T v , w ⟩ = ⟨ v , Tw ⟩ 两个自伴算子的和是自伴的,实数和自伴算子的乘积是自伴的 自伴算子的本征值是实的 在C \bf C C 上只有0 0 0 算子才能使得T v Tv T v 总正交于v v v 在C \bf C C 上,仅自伴算子才能使< T v , v > \left<Tv,v\right> ⟨ T v , v ⟩ 都是实数 若T = T ∗ T=T^* T = T ∗ 且对所有v v v 均有< T v , v > = 0 , \left<Tv,v\right>=0, ⟨ T v , v ⟩ = 0 , 则T = 0 T=0 T = 0 . 正规算子 定义 内积空间上的算子称为正规的,如果它和它的伴随是交换的.也就是所,T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是正规的,如果:T T ∗ = T ∗ T TT^*=T^*T T T ∗ = T ∗ T T T T 是正规的当且仅当对所有的v v v ,均有∣ ∣ T v ∣ ∣ = ∣ ∣ T ∗ v ∣ ∣ ||Tv||=||T^*v|| ∣∣ T v ∣∣ = ∣∣ T ∗ v ∣∣ T ∗ T = T T ∗ ⟺ T T ∗ − T ∗ T = 0 ⟺ ∀ v ∈ V , < ( T ∗ T − T T ∗ ) v , v > = 0 ⟺ ∀ v ∈ V , < T ∗ T v , v > = < T T ∗ v , v > ⟺ ∀ v ∈ V , ∣ ∣ T v ∣ ∣ 2 = ∣ ∣ T ∗ v ∣ ∣ 2 \begin{aligned} T^*T=TT^*&\iff TT^*-T^*T=0\\&\iff \forall v\in V,\ \left<(T^*T-TT^*)v,v\right>=0\\&\iff \forall v\in V,\left<T^*Tv,v\right>=\left<TT^*v,v\right>\\&\iff\forall v\in V,\ ||Tv||^2=||T^*v||^2 \end{aligned} T ∗ T = T T ∗ ⟺ T T ∗ − T ∗ T = 0 ⟺ ∀ v ∈ V , ⟨ ( T ∗ T − T T ∗ ) v , v ⟩ = 0 ⟺ ∀ v ∈ V , ⟨ T ∗ T v , v ⟩ = ⟨ T T ∗ v , v ⟩ ⟺ ∀ v ∈ V , ∣∣ T v ∣ ∣ 2 = ∣∣ T ∗ v ∣ ∣ 2
其重要推论是null T = null T ∗ \text{null}\ T=\text{null}\ T^* null T = null T ∗
若T T T 正规,则T T T 和T ∗ T^* T ∗ 有相同的本征向量 正规算子的正交本征向量 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是正规的,则T T T 的相应于不同本征值的本征向量是正交的. 7.B 谱定理 复谱定理 设F = C \bf F=\bf C F = C 且T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 则以下条件等价:
a. T T T 是正规的 b. V V V 有一个由T T T 的本征向量组成的规范正交基 c. T T T 关于V V V 某个规范正交基具有对角矩阵 proof: (b) ( c )显然等价,因此只需证明(a)( c )的等价性 首先假设( c )成立. 那么T T T 在V V V 的某个规范正交基上有对角矩阵,则T ∗ T^* T ∗ 在V V V 的某个规范正交基上有对角矩阵,由任意两个对角矩阵都是交换的可证T T T 正规. 然后假设(a)成立,则T T T 是正规的,由舒尔定理,V V V 有一个规范正交基e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 使得T T T 关于这个基具有上三角矩阵.于是:
M ( T , ( e 1 , . . . , e n ) ) = ( a 1 , 1 ⋯ a 1 , n ⋱ ⋮ 0 a n , n ) \mathcal M(T,(e_1,...,e_n))=\begin{pmatrix}a_{1,1}&\cdots&a_{1,n}\\&\ddots&\vdots\\0&&a_{n,n}\end{pmatrix} M ( T , ( e 1 , ... , e n )) = a 1 , 1 0 ⋯ ⋱ a 1 , n ⋮ a n , n
只需证明该矩阵为对角矩阵即可.
∣ ∣ T e 1 ∣ ∣ 2 = ∣ a 1 , 1 ∣ 2 = ∣ ∣ T ∗ e 1 ∣ ∣ 2 = ∣ a 1 , 1 ∣ 2 + . . . + ∣ a 1 , n ∣ 2 ||Te_1||^2=|a_{1,1}|^2=||T^*e_1||^2=|a_{1,1}|^2+...+|a_{1,n}|^2 ∣∣ T e 1 ∣ ∣ 2 = ∣ a 1 , 1 ∣ 2 = ∣∣ T ∗ e 1 ∣ ∣ 2 = ∣ a 1 , 1 ∣ 2 + ... + ∣ a 1 , n ∣ 2
由此∣ a 1 , k ∣ = 0 , k = 2 , . . . , n |a_{1,k}|=0,\ k=2,...,n ∣ a 1 , k ∣ = 0 , k = 2 , ... , n 以此类推直到最后一行,可以证得矩阵中所有非对角线元素全部为0,( c )成立.Q.E.D. \text{Q.E.D.} Q.E.D.
实谱定理 证明实谱定理之前需要几个引理:
可逆的二次式 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是自伴的,并设b , c ∈ R b,c\in\bf R b , c ∈ R 使得b 2 < 4 c b^2<4c b 2 < 4 c ,则: T 2 = b T = c I T^2=bT=cI T 2 = b T = c I
是可逆的.
自伴算子都具有本征值 设V ≠ { 0 } V\neq\{0\} V = { 0 } 且T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是自伴算子,则T T T 有本征值 proof: 设V V V 是实向量空间.设n = dim V n=\text{dim}\ V n = dim V ,取v ∈ V , v ≠ 0 v\in V,\ v\neq 0 v ∈ V , v = 0 ,则:v , T v , T 2 v , . . . , T n v v,Tv,T^2v,...,T^nv v , T v , T 2 v , ... , T n v 线性相关,于是有不全为0 0 0 的实数a 0 , . . . , a n a_0,...,a_n a 0 , ... , a n 使得:
0 = a 0 v + a 1 T v + . . . + a n T n v 0=a_0v+a_1Tv+...+a_nT^nv 0 = a 0 v + a 1 T v + ... + a n T n v
取多项式a 0 + a 1 x + . . . + a n x n a_0+a_1x+...+a_nx_n a 0 + a 1 x + ... + a n x n ,并将其分解:
a 0 + a 1 x + . . . + a n x n = c ( x 2 + b 1 x + c 1 ) . . . ( x 2 b M x + c M ) ( x − λ 1 ) . . . ( x − λ m ) a_0+a_1x+...+a_nx^n=c(x^2+b_1x+c_1)...(x^2b_Mx+c_M)(x-\lambda_1)...(x-\lambda_m) a 0 + a 1 x + ... + a n x n = c ( x 2 + b 1 x + c 1 ) ... ( x 2 b M x + c M ) ( x − λ 1 ) ... ( x − λ m )
其中c c c 是非零实数,b i , c i , λ i ∈ R b_i,c_i,\lambda_i\in\bf{R} b i , c i , λ i ∈ R , b j 2 < 4 c j , m + M ≥ 1 \ b_j^2<4c_j,\ m+M\geq 1 b j 2 < 4 c j , m + M ≥ 1 ,那么:
0 = c ( T 2 + b 1 T + c 1 I ) . . . ( T 2 + b M T + c M I ) ( T − λ 1 I ) . . . ( T − λ m I ) v 0=c(T^2+b_1T+c_1I)...(T^2+b_MT+c_MI)(T-\lambda_1I)...(T-\lambda_mI)v 0 = c ( T 2 + b 1 T + c 1 I ) ... ( T 2 + b M T + c M I ) ( T − λ 1 I ) ... ( T − λ m I ) v
由第一个引理,每个T 2 + b j T + c j T^2+b_jT+c_j T 2 + b j T + c j 都是可逆的,那么m > 0 m>0 m > 0 且:
0 = ( T − λ 1 I ) . . . ( T − λ m I ) v 0=(T-\lambda_1I)...(T-\lambda_m I)v 0 = ( T − λ 1 I ) ... ( T − λ m I ) v
至少有一个j j j 使得T − λ j I T-\lambda_jI T − λ j I 不是单的,也就是说T T T 有本征值Q.E.D \text{Q.E.D} Q.E.D
自伴算子和不变子空间 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是自伴的,并设U U U 是V V V 的在T T T 下不变的子空间.则: U ⊥ U^\perp U ⊥ 在T T T 下是不变的T ∣ U ∈ L ( U ) T|_U\in\mathcal L(U) T ∣ U ∈ L ( U ) 是自伴的T ∣ U ⊥ ∈ L ( U ⊥ ) T|_{U^\perp}\in\mathcal L(U^\perp) T ∣ U ⊥ ∈ L ( U ⊥ ) 是自伴的 实谱定理 设F = R \bf F=\bf R F = R 且T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) ,则以下条件等价: a. T T T 是自伴的 b. V V V 有一个由T T T 的本征向量组成的规范正交基 c. T T T 关于V V V 的某个规范正交基具有对角矩阵 proof: 首先假设( c )成立,显然(a)成立. 接下来假设(a)成立,使用归纳法证明(b)成立: 若dim V = 1 \text{dim}\ V=1 dim V = 1 ,则(b)显然正确,下设dim V > 1 \text{dim}\ V>1 dim V > 1 且对于维数更小的向量空间,(b)成立. 首先假设u u u 是T T T 的本征向量且∣ ∣ u ∣ ∣ = 1 ||u||=1 ∣∣ u ∣∣ = 1 ,设U = span ( u ) U=\text{span}(u) U = span ( u ) ,则U U U 是V V V 的一维不变子空间. 由引理3的( c ),T U ⊥ ∈ L ( U ⊥ ) T_{U^\perp}\in\mathcal L(U^\perp) T U ⊥ ∈ L ( U ⊥ ) 是自伴的 由归纳假设,U ⊥ U^\perp U ⊥ 有一个由T ∣ U ⊥ T|_{U^\perp} T ∣ U ⊥ 的本征向量组成的规范正交基,将u u u 添加进这个规范正交基,就得到了V V V 的一个由T T T 的本征向量组成的规范正交基.(b)成立. 最后假设(b)成立,显然(c)成立.Q.E.D. \text{Q.E.D.} Q.E.D.
7.C 正算子和等距同构 正算子 称算子T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是正的,如果T T T 是自伴的并且对于所有的v ∈ V v\in V v ∈ V 均有< T v , v > ≥ 0 \left<Tv,v\right>\geq 0 ⟨ T v , v ⟩ ≥ 0 p.s.如果V V V 是复向量空间,则T T T 自伴的条件可以从上面的定义中去掉.
定义:平方根 算子R R R 称为算子T T T 的平方根,如果R 2 = T R^2=T R 2 = T . 正算子的刻画 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) ,则以下条件等价: T T T 是正的T T T 是自伴的并且T T T 的所有本征值非负T T T 有正的平方根T T T 有自伴的平方根存在算子R ∈ L ( V ) R\in\mathcal L(V) R ∈ L ( V ) 使得T = R ∗ R T=R^*R T = R ∗ R 这个定理可以与C \bf C C 中非负数的刻画相对应.复数z z z 非负当且仅当其具有非负平方根,与第三个条件对应;复数z z z 非负当且仅当它具有实的平方根,这对应于第四个条件;z z z 非负当且仅当有复数w w w 使得z = w ˉ w z=\bar w w z = w ˉ w ,这对应于第五个条件
每个正算子都有唯一的平方根V V V 上每个正算子都有唯一的平方根 proof: 假设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 是正的,v ∈ V v\in V v ∈ V 是T T T 的一个本征向量.则有λ ≥ 0 \lambda\geq 0 λ ≥ 0 使得:T v = λ v Tv=\lambda v T v = λ v 下面证明R v = λ v Rv=\sqrt \lambda v R v = λ v . 根据谱定理,V V V 有一个由R R R 的本征向量构成的规范正交基e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n .因为R R R 是正算子,其本征值均是非负的,因此存在非负数λ 1 , . . . , λ n \lambda_1,...,\lambda_n λ 1 , ... , λ n 使得对于每一个j = 1 , . . . , n j=1,...,n j = 1 , ... , n 均有
R e j = λ j e j Re_j=\sqrt\lambda_j e_j R e j = λ j e j
因为e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 是V V V 的基,所以∃ a 1 , . . . a n ∈ F \exists a_1,...a_n\in\bf F ∃ a 1 , ... a n ∈ F 使得
v = a 1 e 1 + . . . + a n e n v=a_1e_1+...+a_ne_n v = a 1 e 1 + ... + a n e n
于是
R v = a 1 λ 1 e 1 + . . . + a n λ n e n Rv=a_1\sqrt\lambda_1e_1+...+a_n\sqrt\lambda_n e_n R v = a 1 λ 1 e 1 + ... + a n λ n e n
因此
R 2 v = a 1 λ 1 e 1 + . . . + a n λ n e n R^2v=a_1\lambda_1 e_1+...+a_n\lambda_n e_n R 2 v = a 1 λ 1 e 1 + ... + a n λ n e n
又R 2 = T , T v = λ v R^2=T,\ Tv=\lambda v R 2 = T , T v = λ v 因此:
a 1 λ 1 e 1 + . . . + a n λ n e n = a 1 λ e 1 + . . . + a n λ e n a_1\lambda_1 e_1+...+a_n\lambda_n e_n=a_1\lambda e_1+...+a_n\lambda e_n a 1 λ 1 e 1 + ... + a n λ n e n = a 1 λ e 1 + ... + a n λ e n
这意味着对于j = 1 , . . . , n j=1,...,n j = 1 , ... , n , a j ( λ − λ j ) = 0 a_j(\lambda-\lambda_j)=0 a j ( λ − λ j ) = 0 所以
v = ∑ { j : λ j = λ } a j e j v=\sum_{\{j:\lambda_j=\lambda\}}a_je_j v = { j : λ j = λ } ∑ a j e j
也就是:
R v = ∑ { j : λ j = λ } a j λ e j = λ v Rv=\sum_{\{j:\lambda_j=\lambda\}}a_j\sqrt\lambda e_j=\sqrt \lambda v R v = { j : λ j = λ } ∑ a j λ e j = λ v
这就意味着R R R 在T T T 的本征向量上是唯一确定的,由谱定理,V V V 有一个由T T T 的本正向量构成的基,那么R R R 也就唯一确定了.Q.E.D. \text{Q.E.D.} Q.E.D.
等距同构 算子S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) 称为等距同构,如果对于所有的v ∈ V v\in V v ∈ V ,均有∣ ∣ S v ∣ ∣ = ∣ ∣ v ∣ ∣ ||Sv||=||v|| ∣∣ S v ∣∣ = ∣∣ v ∣∣ ,也就是说,算子是等距同构的当且仅当它保持范数.实内积空间上的等距同构通常称为正交算子,复内积空间上的等距同构通常称为酉算子.
等距同构的刻画 设S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) ,则以下条件等价: S S S 等距同构对所有u , v ∈ V u,v\in V u , v ∈ V 均有< S u , S v > = < u , v > \left<Su,Sv\right>=\left<u,v\right> ⟨ S u , S v ⟩ = ⟨ u , v ⟩ 对V V V 中的任意规范正交向量组e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 均有S e 1 , . . . , S e n Se_1,...,Se_n S e 1 , ... , S e n 是规范正交的 V V V 有规范正交基e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 使得S e 1 , . . . , S e n Se_1,...,Se_n S e 1 , ... , S e n 是规范正交的S ∗ S = I S^*S=I S ∗ S = I S S ∗ = I SS^*=I S S ∗ = I S ∗ S^* S ∗ 等距同构S S S 是可逆的并且S − 1 = S ∗ S^{-1}=S^* S − 1 = S ∗ F = C \bf F\ =\ C F = C 时等距同构的描述 设V V V 是夫内积空间,S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) ,则以下条件等价: S S S 等距同构V V V 有一个由S S S 的本征向量组成的规范正交基,相应的本征值的绝对值均为1 1 1 极分解和奇异值分解 类比:C \bf C C 和L ( V ) \mathcal L(V) L ( V ) (首先定义T \sqrt T T 是T T T 的唯一的正平方根) C \bf C C L ( V ) \mathcal L(V) L ( V ) 复数z z z 算子T T T z ˉ \bar z z ˉ T ∗ T^* T ∗ 非负数 正算子 单位元(z ˉ z = 1 \bar zz=1 z ˉ z = 1 ) 全体等距同构T ∗ T = I T^*T=I T ∗ T = I ∀ z ∈ C \forall z\in\bf C ∀ z ∈ C , z = ( z ∣ z ∣ ) ∣ z ∣ = ( z ∣ z ∣ ) z ˉ z z=(\frac{z}{|z|})|z|=(\frac{z}{|z|})\sqrt{\bar zz} z = ( ∣ z ∣ z ) ∣ z ∣ = ( ∣ z ∣ z ) z ˉ z ∀ T ∈ L ( V ) , ∃ S ∈ L ( V ) , T = S T ∗ T \forall T\in\mathcal L(V),\ \exists S\in\mathcal L(V),\ T=S\sqrt{T^*T} ∀ T ∈ L ( V ) , ∃ S ∈ L ( V ) , T = S T ∗ T , 其中S S S 为等距同构
极分解 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) ,则有一个等距同构S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) 使得T = S T ∗ T T=S\sqrt{T^*T} T = S T ∗ T proof: 设v ∈ V v\in V v ∈ V ,则:
∣ ∣ T v ∣ ∣ 2 = < T v , T v > = < T ∗ T v , v > = < T ∗ T T ∗ T v , v > = < T ∗ T v , T ∗ T v > = ∣ ∣ T ∗ T v ∣ ∣ 2 \begin{aligned} ||Tv||^2=\left<Tv,Tv\right>&=\left<T^*Tv,v\right>\\ &=\left<\sqrt{T^*T}\sqrt{T^*T}v,v\right>\\ &=\left<\sqrt{T^*T}v,\sqrt{T^*T}v\right>\\ &=||\sqrt{T^*T}v||^2 \end{aligned} ∣∣ T v ∣ ∣ 2 = ⟨ T v , T v ⟩ = ⟨ T ∗ T v , v ⟩ = ⟨ T ∗ T T ∗ T v , v ⟩ = ⟨ T ∗ T v , T ∗ T v ⟩ = ∣∣ T ∗ T v ∣ ∣ 2
于是对于所有v ∈ V v\in V v ∈ V 均有
∣ ∣ T v ∣ ∣ = ∣ ∣ T ∗ T v ∣ ∣ (1) ||Tv||=||\sqrt{T^*T}v||\tag{1} ∣∣ T v ∣∣ = ∣∣ T ∗ T v ∣∣ ( 1 )
定义线性映射S 1 : range T ∗ T ← range T S_1:\text{range}\sqrt{T^*T}\leftarrow\text{range} T S 1 : range T ∗ T ← range T 为:
S 1 ( T ∗ T v ) = T v (2) S_1(\sqrt{T^*T}v)=Tv\tag{2} S 1 ( T ∗ T v ) = T v ( 2 )
证明的思路是将S 1 S_1 S 1 扩张成一个等距同构映射S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) 使得T = S T ∗ T T=S\sqrt{T^*T} T = S T ∗ T 首先必须验证S 1 S_1 S 1 的定义是合理的.为此假设v 1 , v 2 ∈ V v_1,v_2\in V v 1 , v 2 ∈ V 使得T ∗ T v 1 = T ∗ T v 2 \sqrt{T^*T}v_1=\sqrt{T^*T}v_2 T ∗ T v 1 = T ∗ T v 2 .为使S 1 S_1 S 1 的定义有意义,必须有T v 1 = T v 2 Tv_1=Tv_2 T v 1 = T v 2 .
∣ ∣ T v 1 − T v 2 ∣ ∣ = ∣ ∣ T ( v 1 − v 2 ) ∣ ∣ = ∣ ∣ T ∗ T ( v 1 − v 2 ) ∣ ∣ = ∣ ∣ T ∗ T v 1 − T ∗ T v 2 ∣ ∣ = 0 \begin{aligned} ||Tv_1-Tv_2||&=||T(v_1-v_2)||\\ &=||\sqrt{T^*T}(v_1-v_2)||\\ &=||\sqrt{T^*T}v_1-\sqrt{T^*T}v_2||\\ &=0 \end{aligned} ∣∣ T v 1 − T v 2 ∣∣ = ∣∣ T ( v 1 − v 2 ) ∣∣ = ∣∣ T ∗ T ( v 1 − v 2 ) ∣∣ = ∣∣ T ∗ T v 1 − T ∗ T v 2 ∣∣ = 0
因此T v 1 = T v 2 Tv_1=Tv_2 T v 1 = T v 2 .而S 1 S_1 S 1 的线性是显然的. 有上述推导可知S 1 S_1 S 1 将range T ∗ T \text{range}\sqrt{T^*T} range T ∗ T 映射到range T \text{range}T range T 上,而由( 1 ) , ( 2 ) (1),(2) ( 1 ) , ( 2 ) , ∣ ∣ S 1 u ∣ ∣ = ∣ ∣ u ∣ ∣ ||S_1u||=||u|| ∣∣ S 1 u ∣∣ = ∣∣ u ∣∣ 是显然的. 接下来要将S 1 S_1 S 1 扩张成整个V V V 上的一个等距同构S S S .由于S 1 S_1 S 1 是单的(等距同构算子可逆),那么对其使用线性映射基本定理有:
dim range T ∗ T = dim range T \text{dim\ range}\sqrt{T^*T}=\text{dim\ range}T dim range T ∗ T = dim range T
这说明dim ( range T ∗ T ) ⊥ = dim ( range T ) ⊥ \text{dim\ }(\text{range}\sqrt{T^*T})^\perp=\text{dim\ }(\text{range}T)^\perp dim ( range T ∗ T ) ⊥ = dim ( range T ) ⊥ ,分别取( range T ∗ T ) ⊥ (\text{range\ }\sqrt{T^*T})^\perp ( range T ∗ T ) ⊥ 和( range T ) ⊥ (\text{range\ }T)^\perp ( range T ) ⊥ 的规范正交基e 1 , . . . , e m e_1,...,e_m e 1 , ... , e m 和f 1 , . . . , f m f_1,...,f_m f 1 , ... , f m 定义线性映射S 2 : ( range T ∗ T ) ⊥ → ( range T ) ⊥ S_2:(\text{range\ }\sqrt{T^*T})^\perp\rightarrow(\text{range} T)^\perp S 2 : ( range T ∗ T ) ⊥ → ( range T ) ⊥ :
S 2 ( a 1 e 2 + . . . + a m e m ) = a 1 f 1 + . . . + a m f m S_2(a_1e_2+...+a_me_m)=a_1f_1+...+a_mf_m S 2 ( a 1 e 2 + ... + a m e m ) = a 1 f 1 + ... + a m f m
那么对于所有w ∈ ( range T ∗ T ) ⊥ w\in(\text{range\ }\sqrt{T^*T})^\perp w ∈ ( range T ∗ T ) ⊥ 均有∣ ∣ S 2 w ∣ ∣ = ∣ ∣ w ∣ ∣ ||S_2w||=||w|| ∣∣ S 2 w ∣∣ = ∣∣ w ∣∣ 现在设S S S 是V V V 上的算子,在range T ∗ T \text{range}\sqrt{T^*T} range T ∗ T 上与S 1 S_1 S 1 相等,在( range T ∗ T ) ⊥ (\text{range}\sqrt{T^*T})^\perp ( range T ∗ T ) ⊥ 上与S 2 S_2 S 2 相等.由于每一个v ∈ V v\in V v ∈ V 可以唯一地写成:
v = u + w v=u+w v = u + w
其中u ∈ range T ∗ T , w ∈ ( range T ∗ T ) ⊥ u\in\text{range}\sqrt{T^*T},\ w\in(\text{range}\sqrt{T^*T})^\perp u ∈ range T ∗ T , w ∈ ( range T ∗ T ) ⊥ ,那么根据上述定义,对于v ∈ V v\in V v ∈ V :
S v = S 1 u + S 2 w Sv=S_1u+S_2w S v = S 1 u + S 2 w
其等距同构性由勾股定理显然可证.而∀ v ∈ V \forall v\in V ∀ v ∈ V :
S ( T ∗ T v ) = S 1 ( T ∗ T v ) = T v S(\sqrt{T^*T}v)=S_1(\sqrt{T^*T}v)=Tv S ( T ∗ T v ) = S 1 ( T ∗ T v ) = T v
Q.E.D. \text{Q.E.D.} Q.E.D.
特别地,考虑F = C \bf F=C F = C 的情形,设T = S T ∗ T T=S\sqrt{T^*T} T = S T ∗ T 是T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 的极分解,其中S S S 是等距同构则V V V 有一个规范正交基使得S S S 关于这个基有对角矩阵,并且V V V 还有一个规范正交基使得T ∗ T \sqrt{T^*T} T ∗ T 关于这个基有对角矩阵.注意:未必有规范正交基使得S S S 和T ∗ T \sqrt{T^*T} T ∗ T 的矩阵同时具有这么好的对角形式
奇异值分解
奇异值 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 则T T T 的奇异值就是T ∗ T \sqrt{T^*T} T ∗ T 的本征值,而且每个本征值λ \lambda λ 都要重复dim E ( λ , T ∗ T ) \text{dim}E(\lambda,\sqrt{T^*T}) dim E ( λ , T ∗ T ) 次. 由于T T T 的奇异值都是正算子T ∗ T \sqrt{T^*T} T ∗ T 的本征值,所以它们均非负. 每个T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 都有dim V \text{dim}V dim V 个奇异值. 奇异值分解 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) 有奇异值s 1 , . . . , s n s_1,...,s_n s 1 , ... , s n .则V V V 有两个规范正交基e 1 , . . . , e n e_1,...,e_n e 1 , ... , e n 和f 1 , . . . , f n f_1,...,f_n f 1 , ... , f n 使得对于每个v ∈ V v\in V v ∈ V 均有T v = s 1 < v , e 1 > f 1 + . . . + s n < v , e n > f n Tv=s_1\left<v,e_1\right>f_1+...+s_n\left<v,e_n\right>f_n T v = s 1 ⟨ v , e 1 ⟩ f 1 + ... + s n ⟨ v , e n ⟩ f n proof: 对T ∗ T \sqrt{T^*T} T ∗ T 应用谱定理可知,有V V V 的规范正交基e 1 , . . . e n e_1,...e_n e 1 , ... e n 使得对j = 1 , . . . , n j=1,...,n j = 1 , ... , n 均有T ∗ T e j = s j e j \sqrt{T^*T}e_j=s_je_j T ∗ T e j = s j e j 而对于每一个v ∈ V v\in V v ∈ V 均有
v = < v , e 1 > e 1 + . . . + < v , e n > e n (1) v=\left<v,e_1\right>e_1+...+\left<v,e_n\right>e_n\tag{1} v = ⟨ v , e 1 ⟩ e 1 + ... + ⟨ v , e n ⟩ e n ( 1 )
将算子T ∗ T \sqrt{T^*T} T ∗ T 作用在( 1 ) (1) ( 1 ) 式的两端,则对于每个v ∈ V v\in V v ∈ V 均有:
T ∗ T v = s 1 < v , e 1 > e 1 + . . . + s n < v , e n > e n (2) \sqrt{T^*T}v=s_1\left<v,e_1\right>e_1+...+s_n\left<v,e_n\right>e_n\tag{2} T ∗ T v = s 1 ⟨ v , e 1 ⟩ e 1 + ... + s n ⟨ v , e n ⟩ e n ( 2 )
由极分解定理,有等距同构S ∈ L ( V ) S\in\mathcal L(V) S ∈ L ( V ) 使得T = S T ∗ T T=S\sqrt{T^*T} T = S T ∗ T .将S S S 作用到( 2 ) (2) ( 2 ) 式两端,则对于每个v ∈ V v\in V v ∈ V 均有
T v = s 1 < v , e 1 > S e 1 + . . . + s n < v , e n > S e n (3) Tv=s_1\left<v,e_1\right>Se_1+...+s_n\left<v,e_n\right>Se_n\tag{3} T v = s 1 ⟨ v , e 1 ⟩ S e 1 + ... + s n ⟨ v , e n ⟩ S e n ( 3 )
对每个j,令f j = S e j f_j=Se_j f j = S e j ,由于S S S 是等距同构,因此f 1 , . . . , f n f_1,...,f_n f 1 , ... , f n 是V V V 的规范正交基,那么( 3 ) (3) ( 3 ) 式化为:
T v = s 1 < v , e 1 > f 1 + . . . + s n < v , e n > f n Tv=s_1\left<v,e_1\right>f_1+...+s_n\left<v,e_n\right>f_n T v = s 1 ⟨ v , e 1 ⟩ f 1 + ... + s n ⟨ v , e n ⟩ f n
Q.E.D. \text{Q.E.D.} Q.E.D.
不对算子开平方描述其奇异值 设T ∈ L ( V ) T\in\mathcal L(V) T ∈ L ( V ) ,则T T T 的奇异值是T ∗ T T^*T T ∗ T 的本征值的非负平方数,且每个本征值都要重复dim E ( λ , T ∗ T ) \text{dim}E(\lambda,T^*T) dim E ( λ , T ∗ T ) 次.