Uwni 筆記

矩陣論

本页内容

從抽象的觀點來說,矩陣是線性變換在某個基底下的表示.它可以將十分抽象的線性空間中的映射轉化爲座標空間中的矩陣乘法.另一方面,從歷史的發展和應用的觀點來說,矩陣又是線性方程組的直接抽象.因此,研究矩陣本身就顯得尤為重要.

矩陣

𝑆 是集合,我們稱映射

𝑨:𝗡𝑚×𝗡𝑛(𝑖,𝑗)𝑎𝑖𝑗𝑆

𝑆 上的 𝑚×𝑛 矩陣.其值 𝑎𝑖𝑗 稱爲矩陣 𝑨 在指標 (𝑖,𝑗) 處的元素,亦得記爲 (𝑨)𝑖𝑗. 特別的,當 𝑚=𝑛 時,稱 𝑨𝑛方陣.當 𝑆𝗥 時,稱 𝑨實矩陣;當 𝑆𝗖 時,稱 𝑨 爲一個複矩陣. 記 𝑆𝑚×𝑛𝑆𝗡𝑚×𝗡𝑛 爲所有 𝑚×𝑛 矩陣的集合.

方陣 𝑨𝑎𝑖𝑗|𝑖=𝑗 元素稱爲 𝑨主對角元.反之,𝑎𝑖𝑗|𝑖+𝑗=𝑛+1 元素稱爲 𝑨反對角元. 當所有非對角線元素皆爲零時,稱該方陣爲對角陣.定義對角函數 diag:𝑆𝑛𝑆𝑛×𝑛

diag(𝜆1,,𝜆𝑛)[𝜆1000𝜆2000𝜆𝑛]

在記號的習慣上,其中的零元可以留空不寫,定義 𝕂𝑛 上的對角陣

𝑰𝑛diag(1,,1)=[11]

𝑛單位陣.其中 1 是域 𝕂 的乘法幺元.

定義 LA11.
轉置

矩陣 𝑨𝕂𝑚×𝑛 的轉置 𝑨T 定義爲

(𝑨T)𝑖𝑗(𝑨)𝑗𝑖
𝑨T=𝑨 者曰對稱陣, 𝑨T=𝑨 者曰反對稱

不難發現,矩陣的轉置一般不是線形映射.對角陣的轉置是其本身, 也就是說對角陣是對稱矩陣.

矩陣代數

定義二元算子 +:𝕂𝑚×𝑛×𝕂𝑚×𝑛𝕂𝑚×𝑛

(𝑎𝑖𝑗)+(𝑏𝑖𝑗)=(𝑎𝑖𝑗+𝑏𝑖𝑗)

𝕂𝑚×𝑛 上的加法.二元映射 :𝕂𝑚×𝑝×𝕂𝑝×𝑛𝕂𝑚×𝑛

(𝑎𝑖𝑗)(𝑏𝑖𝑗)=(𝑘=1𝑝𝑎𝑖𝑘𝑏𝑘𝑗)

𝕂𝑚×𝑝𝕂𝑝×𝑛 之間的乘法.一元算子 :𝕂𝑚×𝑛𝕂𝑚×𝑛

(𝑎𝑖𝑗)=(𝑎𝑖𝑗)

矩陣與一般線形映射

命題 LA32 告訴了我們两个同维度的线形空间同构,那么我们是否可以通过一個同構來將复杂空间化為一個同維度的簡單空間呢?這樣無論遇到何種線形空間,我們都可以將其轉化到一個通用的空間上來分析問題.最簡單的 𝑚 維線形空間莫過於 𝕂𝑚 了.同時,爲了指稱方便,我們將元組之元素合爲基集者稱爲有序基.如此便可以使用自然數索引來建立對應關係.

定義 LA12.
有序基
𝑛 元組 (𝒗1,,𝒗𝑛) 爲有序基,以 {𝒗1,,𝒗𝑛} 爲基集故也.
定義 LA13.
坐标空间

不难验证 𝕂𝑚 维直积 𝕂𝑚𝕂 上的线性空间.

[𝑥1,,𝑥𝑚]+[𝑦1,,𝑦𝑚]=[𝑥1+𝑦1,,𝑥𝑚+𝑦𝑚]
𝜆[𝑥1,,𝑥𝑚]=[𝜆𝑥1,,𝜆𝑥𝑚]

称之为坐标空间.坐标空间有一组自然的有序基

𝒆𝑖(0,,1𝑖,,0)T,𝑖=1,,𝑚,
稱為 𝕂𝑚標準基(standard basis).

我們稱 𝕂𝑚 維線形空間 𝑉 到座標空間 𝕂𝑚 的線形同構爲 𝑉座標映射,其將向量 𝒗 映射到的像稱爲 𝒗座標.然而座標映射並不唯一——選取不同的同構映射則會使得同一個向量有不同的座標.

例 LA18.

𝑉=𝒫︀2(𝕂) 是所有次數不超過 2 的多項式構成的線形空間.則 𝑉3 維線形空間.定義映射 𝜙1:𝑉𝕂3

𝜙1(𝑎0+𝑎1𝑥+𝑎2𝑥2)=(𝑎0,𝑎1,𝑎2)T

𝜙1𝑉𝕂3 的一個線形同構.對於多項式 𝑝(𝑥)=2+3𝑥+4𝑥2𝑉,其在同構 𝜙1 下的座標爲 (2,3,4)T

然而我們也可以定義另一個映射 𝜙2:𝑉𝕂3

𝜙2(𝑎0+𝑎1𝑥+𝑎2𝑥2)=(𝑎2,𝑎1,𝑎0)T

𝜙2 也是 𝑉𝕂3 的一個線形同構.對於同一個多項式 𝑝(𝑥),其在同構 𝜙2 下的座標爲 (4,3,2)T

因此我們看到,不同的同構映射會導致同一個向量有不同的座標表示.

雖然座標映射不唯一,但有序基和坐标映射之间是一一对应的.

ℬ︀=(𝒗1,,𝒗𝑚)𝑉 的有序基.由於 ℬ︀ 是基,𝑉 中任意向量皆有 ℬ︀ 下本質唯一的線性組合表示,即有唯一的 𝑚 元組 (𝑐1,,𝑐𝑚) 使得 𝒗=𝑐1𝒗1++𝑐𝑚𝒗𝑚. 因此可定義 ℬ︀ 上的坐標映射 𝜙ℬ︀:𝑉𝕂𝑚

𝜙ℬ︀(𝒗)[𝒗]ℬ︀[𝑐1𝑐𝑚].

注意到 𝜙ℬ︀ 在基上的限制恰好是 𝜙ℬ︀(𝒗𝑖)=𝒆𝑖,即它是函數 𝑓:ℬ︀𝕂𝑚, 𝒗𝑖𝒆𝑖 的線形延拓.由線形擴張定理(命題 LA25),𝜙ℬ︀ℒ︀(𝑉,𝕂𝑚) 中唯一滿足此條件的線形映射.又因 𝜙ℬ︀[ℬ︀]=(𝒆1,,𝒆𝑚)𝕂𝑚 的標準基,由 命題 LA27𝜙ℬ︀ 是線形同構.稱 [𝒗]ℬ︀𝒗 在基 ℬ︀ 下的座標.

比如在 例 LA18 中的二次多項式.如果我們取一組有序基爲 (𝑥2,𝑥,1) 則對應的座標爲 (𝑎2,𝑎1,𝑎0)

命題 LA33.
ℬ︀𝑉 上的一组有序基.𝜙ℬ︀ℬ︀ 上的坐标映射.ℬ︀𝜙ℬ︀ 給出 𝑉 的有序基與座標映射之間的雙射.
證 .

單射.𝜙ℬ︀=𝜙ℬ︀,記此映射爲 𝜏.由於 𝜏 是同構,𝒗𝑖=𝜏1(𝒆𝑖)=𝒗𝑖,因此 ℬ︀=ℬ︀

滿射. 對任意線形同構 𝜏:𝑉𝕂𝑚,令 𝒗𝑖𝜏1(𝒆𝑖).由 命題 LA26(3),(𝒗1,,𝒗𝑚)𝑉 的有序基.又 𝜏𝜙ℬ︀ 在基 ℬ︀ 上一致(皆將 𝒗𝑖 映到 𝒆𝑖),由 命題 LA25 的唯一性,𝜏=𝜙ℬ︀

这个命题告诉我们有序基和坐标映射之间一一对应.

對任意 𝑚×𝑛 矩陣 𝑨,定義乘法映射 𝜏𝑨:𝕂𝑛𝕂𝑚𝜏𝑨(𝒙)𝑨𝒙

命題 LA34.
座標空間的線形映射
  1. 乘法映射是線形同態.即 𝜏𝑨ℒ︀(𝕂𝑛,𝕂𝑚)
  2. 𝜏ℒ︀(𝕂𝑛,𝕂𝑚),則 𝜏=𝜏𝑨,其中
𝑨=[𝜏𝒆1,,𝜏𝒆𝑛].

是謂,座標變換皆可寫爲矩陣向量乘法.稱 𝑨𝜏矩陣

證 .

1. 由矩陣乘法分配律,𝑨(𝑎𝒙+𝒚)=𝑎𝑨𝒙+𝑨𝒚

2. 對任意 𝒙=𝑘𝑥𝑘𝒆𝑘,由線性得 𝜏(𝒙)=𝑘𝑥𝑘𝜏(𝒆𝑘)=𝑨𝒙=𝜏𝑨(𝒙)

座標變換與換基矩陣

ℬ︀𝒞︀𝑉 的兩組有序基.然則不禁要問 𝒗𝑉 在兩個基上的座標 [𝒗]ℬ︀[𝒗]𝒞︀ 之間有什麼關係?因爲座標映射是同構,故可逆.由

可知.𝜙ℬ︀,𝒞︀=𝜙𝒞︀𝜙ℬ︀1ℒ︀(𝕂𝑛) 是座標空間上的自同構,稱爲換基算子

線形映射與矩陣

下面的命題解答了本節最開始的疑問.只要我們爲線形空間選定了有序基,我們便可以使用座標向量來表示任意一般空間中的向量,用矩陣表示一般空間間的同態映射.

命題 LA35.
線形映射的表示矩陣

𝑉𝑊 分别是 𝑚𝑛 維線形空間,ℬ︀=(𝒗1,,𝒗𝑚)𝒞︀=(𝒘1,,𝒘𝑛) 分別是 𝑉𝑊 的有序基.對任意 𝜏ℒ︀(𝑉,𝑊),存在唯一的矩陣 [𝜏]ℬ︀,𝒞︀𝕂𝑛×𝑚 使得

[𝜏𝒗]𝒞︀=[𝜏]ℬ︀,𝒞︀[𝒗]ℬ︀
對所有 𝒗𝑉 成立.稱 [𝜏]ℬ︀,𝒞︀𝜏 關於基 ℬ︀,𝒞︀表示矩陣,其第 𝑗 列為 [𝜏𝒗𝑗]𝒞︀.此外,𝜏[𝜏]ℬ︀,𝒞︀ℒ︀(𝑉,𝑊)𝕂𝑛×𝑚 的線形同構.特別地,若 𝜏 爲算子且 ℬ︀=𝒞︀,則可記爲 [𝜏]ℬ︀
證 .

共軛映射 𝜏𝜙𝒞︀𝜏𝜙ℬ︀1ℒ︀(𝕂𝑚,𝕂𝑛) 是線形同構.由 命題 LA34,其有唯一的矩陣 [𝜏]ℬ︀,𝒞︀.驗算:

[𝜏]ℬ︀,𝒞︀[𝒗]ℬ︀=𝜏𝑨(𝜙ℬ︀(𝒗))=𝜙𝒞︀(𝜏𝒗)=[𝜏𝒗]𝒞︀.
兩個線形同構的複合仍是線形同構,故 𝜏[𝜏]ℬ︀,𝒞︀ 是同構.

線形方程組

尝试考虑解以下方程组

{2𝑥+3𝑦+𝑧=14𝑥+𝑦+5𝑧=2𝑥+2𝑦+3𝑧=3

他實際上是在尋找滿足方程 𝜏(𝒖)=𝒃 的向量 𝒖=(𝑥,𝑦,𝑧)T.其中

𝒃=(1,2,3)T𝜏(𝒖)𝑥[241]+𝑦[302]+𝑧[153]

𝜏 是線形映射.我們不難發現 𝜏(𝒖)=𝑨𝒖,其中

𝑨=[231405123]
定義 LA14.
行階形矩陣

一個矩陣稱爲行階形(Row Echelon Form, REF)的,如果它满足以下条件:

  1. 所有非零行都在零行之上.
  2. 每个非零行的首个非零元素(称为主元)位于其前一行主元的右侧.

比如對於下面的 4×5 矩陣,前三行是非零行,第四行是零行,所有的非零元素用藍色標記,每一行的主元更用深藍色標記.照會行階形的定義,不難驗證之.

另根据定義的第二点,如果一个 𝑖,𝑗 处的元素是主元,那其下方的元素 𝑖+,𝑗 必为零.因为其下 𝑖+ 行的主元必须在 𝑗 右侧,从而 𝑖+,𝑗 与其左边的元素皆为零.

进一步的,行階型矩陣的主元皆爲 1,且所有主元所处列的其他元素皆爲 0 ,則稱爲最简行階形.例如

類似的,換上文中「行」以爲「列」,則对应得到列阶型最简列阶型.不难发现,同为行阶型与列阶型的矩阵 𝑨𝕂𝑚×𝑛 一定具有以下形式

𝑨=[𝑰𝑘𝑶𝑘,𝑛𝑘𝑶𝑚𝑘,𝑘𝑶𝑚𝑘,𝑛𝑘]

初等变换

初等行变换是指一下三种矩阵的映射:

  1. 交换两行的位置.
  2. 将某一行乘以一个非零常数.
  3. 将某一行加上另一行的若干倍.

将以上定义的「行」换为「列」,即可得到初等列变换的定义.不难发现,初等变换是置换(因为可逆且保阶). 更进一步的, 𝑰 经三种行变换后分别称为三种初等行矩阵. 即

  • 𝑬1(𝑖,𝑗)𝑰 交换第 𝑖 行和第 𝑗 行得到的矩阵;
  • 𝑬2(𝑖,𝜆)𝑰 将第 𝑖 行乘以非零常数 𝜆 得到的矩阵;
  • 𝑬3(𝑖,𝑗,𝜆)𝑰 将第 𝑖 行加上第 𝑗 行的 𝜆 倍得到的矩阵.
命題 LA36.
初等矩阵可逆
證 .

事实上不难验证

  1. 𝑬1(𝑖,𝑗)1=𝑬1(𝑖,𝑗)
  2. 𝑬2(𝑖,𝜆)1=𝑬2(𝑖,1/𝜆)
  3. 𝑬3(𝑖,𝑗,𝜆)1=𝑬3(𝑖,𝑗,𝜆)

命題 LA37.
初等变换与初等矩阵
  1. 左乘初等矩阵等价于施加对应的初等行变换;
  2. 右乘初等矩阵等价于施加对应的初等列变换.
證 .

对于某种初等变换 𝜎 和对应的初等矩阵 𝑬=𝜎(𝑰) 和任意矩阵 𝑨

(𝑬𝑨)𝑘,𝑙=𝑚(𝑬)𝑘,𝑚(𝑨)𝑚,𝑙

我们希望证明 𝜎(𝑨)=𝑬𝑨.于是

第一类初等行变换

𝑬 是交换第 𝑖 行和第 𝑗 行的初等矩阵,则

  • 𝑘𝑖𝑘𝑗 时,(𝑬)𝑘,𝑚=(𝑰)𝑘,𝑚,因此 (𝑬𝑨)𝑘,𝑙=(𝑨)𝑘,𝑙
  • 𝑘=𝑖 时,(𝑬)𝑖,𝑚=(𝑰)𝑗,𝑚,因此 (𝑬𝑨)𝑖,𝑙=(𝑨)𝑗,𝑙
  • 𝑘=𝑗 时,(𝑬)𝑗,𝑚=(𝑰)𝑖,𝑚,因此 (𝑬𝑨)𝑗,𝑙=(𝑨)𝑖,𝑙. 即左乘 𝑬 等价于交换 𝑨 的第 𝑖 行和第 𝑗 行.
第二类初等行变换

𝑬 是将第 𝑖 行乘以非零常数 𝑐 的初等矩阵,则

  • 𝑘𝑖 时,(𝑬)𝑘,𝑚=(𝑰)𝑘,𝑚,因此 (𝑬𝑨)𝑘,𝑙=(𝑨)𝑘,𝑙
  • 𝑘=𝑖 时,(𝑬)𝑖,𝑚=𝑐(𝑰)𝑖,𝑚,因此 (𝑬𝑨)𝑖,𝑙=𝑐(𝑨)𝑖,𝑙

即左乘 𝑬 等价于将 𝑨 的第 𝑖 行乘以 𝑐

第三类初等行变换

𝑬 是将第 𝑖 行加上第 𝑗 行的 𝑐 倍的初等矩阵,则

  • 𝑘𝑖 时,(𝑬)𝑘,𝑚=(𝑰)𝑘,𝑚,因此 (𝑬𝑨)𝑘,𝑙=(𝑨)𝑘,𝑙
  • 𝑘=𝑖 时,(𝑬)𝑖,𝑚=(𝑰)𝑖,𝑚+𝑐(𝑰)𝑗,𝑚,因此 (𝑬𝑨)𝑖,𝑙=(𝑨)𝑖,𝑙+𝑐(𝑨)𝑗,𝑙

即左乘 𝑬 等价于将 𝑨 的第 𝑖 行加上第 𝑗 行的 𝑐 倍.

对于右乘初等列矩阵的情况,对 𝑨 进行列变换,即对 𝑨T 进行行变换后再转置回来,即:

(𝜎(𝑨T))T=(𝑬𝑨T)T=𝑨𝑬T

也就证明了右乘初等列矩阵等价于施加对应的初等列变换.

作为这一命题的直接推论,我们知道初等变换以及有限次初等变换是线性置换.那么相反地,我们自然的会问:任意 𝕂𝑚×𝑛 上的线性置换是否都能表示为有限次初等变换的复合?答案是肯定的.

命題 LA38.
𝑨,𝑩𝑛+1 階方陣. 初等行变换 𝑨 數次得 𝑩, 那么与 𝑩 对应的线性方程组和与 𝑨 对应的线性方程组线性同解.
證 .

三類初等行變換對應了 Gaußsche 消元法的三類操作.因此這個定理說明了 Gaußsche 消元法確實不會改變線性方程組的解集.

命題 LA39.
亚定方程组的解
如果齐次线性方程组 𝑨𝒙=𝟎 亚定,则必有非平凡解.
證 .

矩阵等价

矩陣 𝑨,𝑩𝕂𝑚×𝑛 若其一可以一系列初等行变换从另一得到.则称二者行等價,记 𝑨𝑩

命題 LA40.
  1. 矩阵等价是相若關係

  2. 有唯一行階型矩陣 𝑹 相若于 𝑨.進一步說

    𝑹=𝑬1𝑬𝑛𝑨

    其中,𝑬1𝑬𝑛 爲初等行矩陣以化 𝑨𝑹

  3. 矩陣 𝑨 可逆 𝑨 行等價於單位陣 𝑰. 意即, 𝑨 可分解爲一系列初等矩陣的乘積.

方程的正定,亚定与超定

相容与不相容

不相容方程组无解.但是我们可以找到最优近似解.也就是最小二乘解.

𝑨𝕂𝑚×𝑛,则 𝑨 诸行张成 𝕂𝑛 的子空间.曰 𝑨行空间,记 rs(𝑨).同样,其诸列所张成 𝕂𝑚 的子空间称为 𝑨列空间.行空间的维度称为行秩,列空间的维度称为列秩.尽管 𝑚𝑛 不必相等,行空间和列空间也不一定相同.但

命題 LA41.
  1. 矩陣的行空間經初等行變換不變
  2. 矩陣的列空間經初等列變換不變
證 .

(1) 蕴涵 (2).故只需要證明 (1). 矩陣 𝑨𝕂𝑚×𝑛 的行空間爲

rs𝑨={𝒂T𝑨|𝒂𝕂𝑛}

經初等行變換,即左乘初等矩陣 𝑬 後,其行空間

rs(𝑬𝑨)={𝒂T𝑬𝑨|𝒂𝕂𝑛}={𝒃T𝑨|𝒃𝕂𝑛}=rs𝑨
其中第二個等號是因爲,𝒃T=𝒂T𝑬𝕂1×𝑛 上的自同構.

矩陣經初等行(列)變換後的行(列)空間保持不變.但經初等列(行)變換後的行(列)空間卻往往不同.例如 [10] 的行空間爲 {[𝑎,0]T|𝑎𝕂} 而经过列置换之后 [01] 的行空间变为了 {[0,𝑎]T|𝑎𝕂}.雖然經初等列(行)變換後的行(列)空間不再保持相同,但我們能發現一個雖更弱但仍然令人驚奇的結論:

命題 LA42.
  1. 初等列變換不改變行秩.
  2. 初等行變換不改變列秩.
證 .

而較然可見:1 蕴涵 2. 因为任何矩陣的初等列变换,都可以看作其转置的对应初等行变换后再转置回来.列变换不改变列秩,则转置后的行秩也如前.因此只需要證明 1.

設矩陣 𝑨𝕂𝑚×𝑛,則其行空间

rs𝑨=span(𝒆1T𝑨,,𝒆𝑛T𝑨)

 对 𝑨 进行列变换,也就是右乘初等矩陣 𝑬 后,其列空间为

rs(𝑨𝑬)=span(𝒆1T𝑨𝑬,,𝒆𝑛T𝑨𝑬)

𝑬 可逆,因此映射 𝜏:rs𝑨𝒗T𝒗T𝑬𝜏[rs𝑨]=rs(𝑨𝑬) 是同构.其中 𝜏[rs𝑨] 是像空间.故

rrk𝑨=dim(rs𝑨)=dim(rs(𝑨𝑬))=rrk(𝑨𝑬)

𝑨 行变换,其行秩不变.

以上兩個定理說明了,我們得到矩阵的行秩与列秩经初等变换不变.

命題 LA43.
𝑨𝕂𝑚×𝑛,则 rrk𝑨=crk𝑨.称此数为 𝑨.记 rank𝑨
證 .
命題 LA44.

𝑨𝕂 上的 𝑚×𝑛 矩陣.則

  1. 𝜏𝑨:𝕂𝑛𝕂𝑚 是單映 rank(𝑨)=𝑛
  2. 𝜏𝑨:𝕂𝑛𝕂𝑚 是滿映 rank(𝑨)=𝑚
證 .

评论