大楚兴,陈胜王
线性代数概要与提高
基础定义
- 线性方程组
- 二次型f(x)=XTAX
- 相似对角化∃P∈Fn×n,P−1AP=diag(λ1,⋯,λn)
分块矩阵☀️
- 分块矩阵乘法法则:如果把每个分块视为数的乘法和每个分块见的乘法均成立,则分块矩阵乘法成立。
- 准三角矩阵和的对角线上如果都是方阵,则整 个矩阵也是方阵,行列式是对角线上各个子阵的乘积
- 分块矩阵的转置等于各个分块转置后再分别转置的结果。
矩阵乘法例题⭐️
设P1,P2∈Cn×n,P12=P1,P22=P2
求证:(P1+P2)2=P1+P2⟺P1P2=P2P1=0
证明:
⇐:
显然
⇒:
(P1+P2)2=P1+P2⇒P1P2+P2P1=0⇒P1P2=−P2P1⇒P1P2=P1(P2P2)=(P1P2)P2=−P2(P1P2)=P2P1⇒P1P2=P2P1=0
右线性空间
如果以下条件皆成立:
- +满足结合律
- +满足交换律
- 数乘对+满 足分配律(2种)
- 数乘对⋅满足结合律
- 零元可由0的数乘获得
- 1⋅α=α
- 数乘时数在右边
则称(V,+,⋅)构成一个右线性空间
其它空间
- 数列空间FN={定义在N上,在F上取值的数列全体}
- 多项式空间F[X]={系数在F的多项式全体}
基底与坐标
若V为F上的右线性空间,若存在正整数n和ε1,⋯,εn∈V使得∀α∈V,∃k1⋯kn∈F,∑εiki=α则称ε1,⋯,εn是一组基底,(k1,⋯,kn)T为该基底下的坐标
基底变换
设E1,E2均为V的基底,如果E2=E1P, 称P为E1到E2的过渡矩阵
α=(ε1⋯εn)x1⋮xn=(ε1′⋯εn′)x1′⋮xn′=(ε1⋯εn)Px1′⋮xn′
线性子空间
如果V的子集W对假发和数乘封闭,则称W为V的一个线性子空间,记作W≤V
- 最小的子空间{0},最大子空间V
- 0维只有一个子空间,1维两个,2维及以上子空间相当于超平面,有无数个
生成子空间
设S{α1,⋯,αr}≤V则Spm(S)=<S>={α1λ1,⋯,αrλr}是V中包含S的最小线性子空间,称为S生成的子空间。
交与和
- V1+V2={α+β∣α,β∈V1∪V2}
- dim(V1+V2)+dim(V1∩V2)=dim(V1)+dim(V2)
- 直和分解:如果V中任意元素可以唯一写为β1+β2的形式,其中β1∈W1,β2∈W2则称W1+W2=V为一个直和分解
- 如果V1≤V2≤V,则dim(V1)≤dim(V2)≤dim(V)后者等号成立当且仅当前者等号成立
内积空间
设V是F上的右线性空间,如果映射<,>:V×V→F满足
- <β,α>=<α,β>
- <α,α>≥0且等号成立当且仅当α=θv
- 关于第二个分量线性
则称<,>是V上的F内积,(V,<,>)构成一个F-内积空间,又称欧几里得空间或酉空间。
操作符<,>仅在陈氏矩阵分析中使用,与一般的(,)等效,其效果是增加了使用latex描述陈氏矩阵分析的复杂性。θv表示零元,似乎也仅见于陈氏矩阵分析。
另外,关于第一个分量有:
<α1λ1+α2λ2,β>=<α1,β>λ1+<α2,β>λ2
勾股定理
<α,β>=0⇔α⊥β
- 此时如果令γ=α+β
有<γ,γ>=<α,α>+<β,β>
- 定义∣∣α∣∣=<α,α>为α在<,>下的长度
- 定义d(α,β)=∣∣α−β∣∣为距离
柯西不等式
∣∣β∣∣∣∣α∣∣≥∣<α,β>∣
度量矩阵与标准正交基
称基底E[]=ε1,⋯,εn对应的矩阵
Mn×n=<ε1,ε1>⋮<εn,ε1>⋯⋱⋯<ε1,εn>⋮<εn,εn>
为度量矩阵。
当M=I时,称E[]为一组单位正交基
内积的证明例题⭐️
设V=Fn×n,<⋅,⋅>:V×V→F,(A,B)↦tr(AHB),求证<⋅,⋅>是内积
解:
<A,B>=<B,A>:
<A,B>=tr(AHB)=tr((AHB)T)=tr(BHA)=tr(BHA)=<B,A>
<A,A>≥0且等号成立当且仅当α=θv:
设A={ak,j+bk,ji}n×n,a,b∈R,i虚数单位,则
<A,A>=tr(AHA)=x=1∑ny=1∑n(ax,y2+bx,y2)≥0
取等号当且仅当ax,y=bx,y=0,即A=θV
关于第二个分量线性:
<A,B>+<A,C>=tr(AHB)+tr(AHC)=tr(AHB+AHC)=tr(AH(B+C))=<A,(B+C)>
<A,B>λ=tr(AHB)⋅λ=tr(AHB⋅λ)=<A,Bλ>
线性映射⭐️
- 如果映射是线性的,就叫线性映射
- 线性自映射又叫线性算子
- 零元对齐
线性映射例题⭐️
设V={e2x(bx+c)∣b,c∈C},A:V→V,f(x)↦f′(x),求其矩阵表示及Jordan标准型
解:
考虑到e2x(bx+c)=bxe2x+ce2x,(e2x(bx+c))′=2bxe2x+(2c+b)e2x,取基底ξ1=xe2x,ξ2=e2x,则该基底下坐标f(x)=(b,c)T,f′(x)=(2b,2c+b)T,从而
A=(2102)
其特征多项式∣Ix−A∣=(x−2)2,求得特征值λ=2,代数重数2,几何重数1,故A的Jordan标准型为J2(2)
像空间和核空间
- Im(f)={f(α)∣α∈V1}≤V2
- Ker(f)={α∈V1∣f(α)=θV2≤V1
- Ker(f)={θV1}当且仅当f为单射
- 线性双射又称线性同构,此时称两个线性空间同构,记作V1φ≅V2
矩阵表示
- 有限维的线性空间间的线性映射可用矩阵表示。取V1的基底α1,⋯,αn和V2的基底β1,⋯,βm,则对于映射φ:V1→V2和α∈V1,如果φ(α)=(β1,⋯,βm)AX则称A是φ在这两组基下的矩阵表示
- 换底时,对于AP=A′,BQ=B′,对应的A有A′=Q−1AP,此时称A‘和A是相抵的,记作A∼A′
- ∼是一个等价关系,相抵的矩阵有相等的秩
- 特别地,当φ是线性算子,且P=Q有A′=P−1AP,称A′与A相似
子空间的正交补
设内积空间V,有子空间W≤V
则
W⊥={β∈V∣<α,β>=0,∀α∈W}
称为W的正交补
显然W⊥≤V,W∩W⊥={θV}
正交补的和
证明:W+W⊥=V
设r=dim(W)的
- r=0,W={θv},W⊥=V,显然
- r=n,W=V,W⊥={θv},显然
- 如果0<r<n,可以取W的一组标准正交 基ε1,⋯,εr,那么显然V存在一组标准正交基ε1,⋯,εr,εr+1,⋯,εn;考虑到εr+1,⋯,εn∈W⊥,显然有n−r=dim([εr+1,⋯,εn])≤dim(W);从而n=r+n−r≤dim(W)+dim(W⊥)=dim(W+W⊥)≤dim(V)=n⇒dim(W+W⊥)=n⇒W+W⊥=V
保内积的线性算子
- 如果算子σ满足<σ(α),σ(β)>=<α,β>,则称σ保内积
- 保内积的线性算子在实数域被称为正交变换,在复数域被称为酉变换
相似与相抵
- 相抵:B=Q−1AP
- 相似:B=P−1AP
- 如果PTP=I,P∈Rn×n,称之为正交阵
- 如果PHP=I,P∈Cn×n,称之为酉矩阵
相似不变量
- 相似是等价关系
- A∼B⇒⎩⎨⎧det(A)=det(B)tr(A)=tr(B)rank(A)=rank(B)f(A)=f(B),f(X)∈C[X]f(A)=0↔f(B)=0
- 最小多项式mA(x)是满足mA(A)=0的次数最小的、首系数为1的多项式
相似标准型
- 称针对矩阵A的行为P−1AP=D=diag(λ1,⋯,λn)为相似对角化,其中P=(ξ1,⋯,ξn)
Schur标准型
- ∀A∈Cn×n,∃U,UHU=I,U−1AU=B,使得B是上三角矩阵。可以使用数学归纳法证明。
- 引理:存在可逆矩阵P使得P−1BP=diag(b1,⋯,bn)
酉相似对角化
设A∈Cn×n,则以下条件等价:
- ∃U,UHU=I,U−1AU=D=diag(λ1,⋯,λn)∈Cn×n
- AHA=AAH
- A是正规的
Jordan标准型
∀A∈Cn×n,∃P,P可逆使得P−1AP=
J=J1⋱Jn
其中Ji=⎩⎨⎧(λi)λi1λi1⋱⋱λi1λi
称J为A的Jordan标准型。
P一般不唯一,但J本质上唯一。
Jordan标准型的最小多项式等于各Jordan块最小多项式的最小公倍式
计算Jordan标准型(和P)的方法:
- 通过矩阵变换求解
- 计算方法
- 几何重数:某一特征值对应特征方程的解向量的个数,是某一特征值对应Jordan块的个数
- 代数重数:矩阵对应的特征方程有特征值,相同的特征值的个数,是某一特征值对应Jordan块的阶数之和
-
破防了,具体求法要不咱们ignore吧
- 求特征值和代数重数
- 对于每个特征值λi和重数k
- 求几何重数,即对应于它的根子空间维数dim Ker(A−Iλ)=n−r(A−Iλ)
- 求使得r((A−Iλ)k)=0的最小整数k,它等于最大的Jordan块阶数
- 正常题到这里就结束了,如果没结束那建议放弃
- 令P=(α1,α2,⋯,αn),解决方程组AP=PJ即可求得P
广义特征向量
设A∈Cn×n,λ∈C,k∈Z+,ξ∈Cn×1,如果
- (A−λI)kξ=0
- (A−λI)k−1ξ=0
则称ξ是属于A的特征值λ,深度为k的广义特征向量
酉相抵标准型
设0=A∈Cm×n,显然∃V,=(V1,V2)VHV=I,V−1(AHA)V=diag(λ1,⋯,λr,0,⋯,0)=diag(δ12,⋯,δr2,0,⋯,0)
-
显然λ1,⋯,λr是一组非负实数
- V−1(AHA)V
-
δ1,⋯,δr称为A的奇异值,规定δ1≥δ2≥⋯≥δn
-
令Σ=diag(δ1,⋯,δn)则V−1AHAV=(Σ2000)
-
令U1=AV1Σ−1,则U1HU1=Ir,其列向量组是标准正交的,因此∃U2,U=(U1,U2),UHU=I,从而U−1AV=(Σ000)
1. 求Jordan标准型,可逆阵P,最小多项式
已知
A=1213214321
- 求Jordan标准型J
- 求可逆方阵P,J=P−1AP
- 求A的最小多项式
解:
1.显然A的特征多项式φA(λ)=(λ−1)4. 由于
rank(A−I)=3dim Ker(A−I)=4−rank(A−I)=1
因此只有一个属于特征值1的Jordan块
J=J4(1)
2.计算得
(A−I)2=00040012400,(A−I)3=0000008000
显然X4=(0,0,0,1)T满足(A−I)3X4=0,X4是4次根向量
从而X3=(A−I)X4=(4,3,2,0)T,X2=(A−I)X3=(12,4,0,0)T,X1=(A−I)X2=(8,0,0,0)T故P=(X1,X2,X3,X4),P−1AP=J
3.mA(λ)=mJ(λ)=(λ−1)4
2.求差分方程解空间的一个基
差分方程yk+3−2yk+2−5yk+1+6yk=0
解:
考虑线性算子A,Ayn=yn+1,令p(x)=x3−2x2−5x+6,则目标解空间为
W={y:N→C∣p(A)y=0}=ker(P(A))≤CN
令φ:C3×1→W, (a,b,c)T↦(a,b,c,⋯)T),显然φ是线性双射,故W是三维线性空间,有基底φ((1,0,0)T),φ((0,1,0)T),φ((0,0,1)T)
3.求矩阵对角线映射核空间的一组基
设f:R2×2→R,A↦tr(A)
- 求kerf的一组基
- 在R上定义<,>:R×R→R,<A,B>↦tr(ATB),证明<,>是内积,并求kerf⊥
解:
- 显然:
α1=(100−1),α2=(0010),α3=(0100)
是一组基
- <A,B>=tr(ATB)=<B,A>,<A,A>=a112+a122+a212+a222≥0,线性显然
从而kerf⊥={β∣tr(α1Tβ)=tr(α2Tβ)=tr(α3Tβ)=0}
矩阵范数与分析
知识储备
- 数列和函数的极限,导数,微分,积分,无穷级数
- 柯西收敛准则∀ε>0,∃N∈N,m1,m2>N时有∣am1−am2∣<ε
设V是F上的有限维线性空间,如果映射:V→R满足
- ∀α∈V,∣∣α∣∣≥0,等号成立当且仅当α=θV
- ∀α∈V,λ∈F,∣∣αλ∣∣=∣∣α∣∣⋅∣∣λ∣∣
- ∀α,β∈V,∣∣α+β∣∣≤∣∣α∣∣+∣∣β∣∣
则称∣∣X∣∣为V上的范数,称V为赋范线性空间
定义V上元素的距离为他们差的范数。
- 设∣∣X∣∣1,∣∣X∣∣2是两个范数,则存在正常数c1,c2,∀υ∈V,∣∣υ∣∣1≤c1∣∣υ∣∣2;∣∣υ∣∣2≤c2∣∣υ∣∣1
- {υn}n∈N是否柯西收敛与范数选取无关
- 有限维赋范线性空间上的柯西列必定收敛
P-范数
∣∣α∣∣p=∣∣(x1,⋯,xn)T∣∣p=(i=1∑n∣xi∣p)p1
- p=∞,∣∣α∣∣∞=max{∣xi∣}
线性映射的范数
设f:(V1,∣∣X∣∣1)→(V2,∣∣X∣∣2),则
∣∣f∣∣=v0∈V1−{θv1}max∣∣v0∣∣1∣∣f(v0)∣∣2=v0∈{v∣ ∣∣v∣∣1=1}}max∣∣f(v0)∣∣2
矩阵的范数
设矩阵A∈Fm×n,φ:Fn×1→Fm×1,X↦AX,则∣∣A∣∣=∣∣φ∣∣
P-计算公式
- p=1,∣∣A∣∣=1≤j≤nmax∑i=1m∣aij∣(列和范数)
- p=2,∣∣A∣∣=δ1(最大奇异值)
- p=∞,∣∣A∣∣=1≤i≤mmax∑j=1n∣aij∣(行和范数)
一些性质:
∣∣A⋅B∣∣≤∣∣A∣∣⋅∣∣B∣∣(0)
- 对于方阵,∣∣A2∣∣≤∣∣A∣∣2
- 对于方阵,当∣∣A∣∣<1,k→∞limAk=0
- 对于满足(0)这样的范数,∣∣X∣∣存 在且∣∣AX∣∣≤∣∣A∣∣⋅∣∣X∣∣;∣∣A∣∣≥ρ(A)=1≤i≤nmax∣λi∣
- ∀A=0∈Cn×n,∀ε>0,∃Cn×n上满足(0)的范数,使得∣∣A∣∣≤ρ(A)+ε
- 如果ρ(A)<1,则存在范数使得∣∣A∣∣<1
方阵的序列及级数收敛性
序列收敛性
极限k→∞limAk存在的充要条件是:
- ρ(A)≤1
- 所有模长为1的特征值只能是1,切特征值为1 的每个Jordan块大小均为1×1
如果k→∞limAk=P,P2=P
级数收敛性
无穷级数∑k=0+∞Ak收敛的充要条件是ρ(A)<1
此时∑k=0+∞Ak=(I−A)−1
矩阵函数与收敛半径
如果f(z)=∑m=0+∞amzm的收敛半径r>0,且方阵A的谱半径严格小于r,则f(z)∣z=A=f(A)=∑m=0+∞amzm有意义。
计算f(A)可以采用以下方法:
f(A)=Pf(J)P−1=Pdiag(f(J1),⋯,f(Jn))P−1=Pdiag(f(λ1I+N),⋯)P−1
其中N=01⋱⋯⋱⋱0⋮10,Nk=0,k≥2
从而对于J3(λ)
f(J3(λ))=α00βα0γβα,⎩⎨⎧α=∑m=0+∞amλm=f(0)(λ)/0!β=∑m=0+∞amλm−1Cm1=f(1)(λ)/1!γ=∑m=0+∞amλm−2Cm2=f(2)(λ)/2!
常用函数
函数 | 展开 | 收敛半径 |
---|
ez | ∑i=0+∞i!zi | +∞ |
cosz | ∑i=0+∞(2i)!(−1)iz2i | +∞ |
sinz | ∑i=0+∞(2i+1)!(−1)iz2i+1 | +∞ |
(1−z)−1 | ∑i=0+∞zi | 1 |
ln(1+z) | ∑i=0+∞(i+1)!(−1)izi+1 | 1 |
(1+z)α,α∈R | ∑i=0+∞Cαizi | 1 |
eA的特性
以下特性可通过定义证明:
- 如果AB=BA则eAeB=eA+B=eBeA
- (eA)−1=e−A
- det(eA)=etr(A)
- eiA=cosA+isinA(i2=−1)
- 如果A是实反对称矩阵(A+AT=0),eA是行列式为1的实正交阵
- 如果AH=A,则eiA是酉矩阵
方阵对某个变量的导数,等于其内各项分别求导得到的新方阵。
矩阵函数的插值计算
如果∣xI−An×n∣=∏i=1S(x−λi)αi,λi互不重复,且f(z)=∑m=0+∞amzm的收敛半径r>ρ(A),
则∃g(z)=c0+c1z+⋯+cn−1zn−1使得
g(j)(λi)=f(j)(λi),j=0,1,2,⋯,αi−1;i=1,2,⋯,S
插值计算例题
设A=(1221),求eAt
解:
∣xI−A∣=(x−3)[(x−(−1))]
令f(z)=ezt,g(z)=c0+c1z,求c0,c1满足:
{f(3)=e3t=c0+3c1f(−1)=e−t=c0−c1
从而f(A)=eAt=g(A)=c0I+c1A
矩阵方程
AX=B
AX=B解存在性
- 代数判别法:r(A∣B)=r(A)
- 几何判别法:ignore
如果B∈Cm×1,则当且仅当A是列满秩阵有解
AX=B解唯一性
- 代数方法:行满秩
- 几何方法:列向量组线性无关
左和右逆矩阵
设