矩阵论基础知识

矩阵论是研究矩阵及其运算、性质与应用的数学分支，是线性代数的核心，在工程、物理、计算机科学、统计学等领域有广泛应用。

本文按 由浅入深、循序渐进 的方式组织：先建立矩阵的基本概念与运算，再引入行列式、秩、逆等方阵工具，然后讨论结构特殊的矩阵与复数情形，最后进入特征值、矩阵分解、范数等进阶主题，并以应用示例收尾。

导读：学习路径

建议：每读完一节，先动手算一遍例题，再进入下一节。逆矩阵（§5）依赖行列式（§3）与秩（§4）；特征值（§8）依赖行列式；范数（§10）依赖 SVD 中的奇异值概念（§9）。

§1 矩阵的定义与基础记号

1.1 什么是矩阵

设 m, n 为正整数，由 m \times n 个数排成 m 行 n 列的数表，称为 m \times n 矩阵：

• a_{ij} 称为矩阵 A 的 (i, j) 元（第 i 行第 j 列的元素）
• m \times n 称为矩阵的 阶 或 维数
• 行数与列数相等的矩阵称为 方阵（n 阶方阵）

例：

1.2 基础记号

初学阶段常用记号如下；更进阶的符号在首次出现时会再说明，完整一览见 附录：记号一览。

§2 特殊矩阵与基本运算

先认识几种最简单的矩阵，再学习如何对它们做运算——这是后续一切讨论的基础。

2.1 常见特殊矩阵

例：

对任意同阶方阵 A，有 AI = IA = A；对零矩阵，有 A + O = A。

2.2 加法与数乘

同阶矩阵可相加，对应元素相加；数 \lambda 与矩阵相乘，每个元素乘以 \lambda。

例：

2.3 矩阵乘法

设 A 为 m \times n 矩阵，B 为 n \times p 矩阵，则乘积 C = AB 为 m \times p 矩阵：

注意：矩阵乘法一般 不满足交换律，即 AB \neq BA（即使两者都有定义）。

例：

行向量左乘列向量得到标量（内积）：

2.4 转置

(A^T)_{ij} = a_{ji}，即行列互换。重要性质：(AB)^T = B^T A^T。

例：

验证 (AB)^T = B^T A^T：用上式 A, B，AB = \begin{pmatrix} 2 & 1 \\ 4 & 3 \end{pmatrix}，故 (AB)^T = \begin{pmatrix} 2 & 4 \\ 1 & 3 \end{pmatrix}；而 B^T A^T = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}\begin{pmatrix} 1 & 3 \\ 2 & 4 \end{pmatrix} = \begin{pmatrix} 2 & 4 \\ 1 & 3 \end{pmatrix}。

小结（§2）：已掌握矩阵的"语法"——如何构造、相加、相乘、转置。下一节引入方阵的标量不变量 行列式。

§3 行列式

行列式是 方阵 对应的一个标量，记为 \det(A)、|A| 或（部分文献中）\|A\|（勿与后文的矩阵范数混淆）。

3.1 基本性质

1. 交换两行，行列式变号
2. 某行乘以 k，行列式乘以 k
3. 某行加上另一行的倍数，行列式不变
4. \det(AB) = \det(A)\det(B)
5. \det(A^T) = \det(A)

3.2 低阶计算公式

3 阶行列式可用 Sarrus 法则 或 按行（列）展开 计算。记

Sarrus 法则（仅适用于 3 阶）：将矩阵的前两列再抄写到右侧，形成"扩展"的 3 \times 5 数表。沿三条主对角线（左上 \to 右下）各取三数相乘后相加，再减去沿三条副对角线（右上 \to 左下）各取三数相乘之和：

此法便于手算记忆，但不推广到 4 阶及以上。

按行（列）展开（Laplace 展开）：删去第 i 行第 j 列后得到的 2 阶子矩阵的行列式，称为 (i,j) 余子式 M_{ij}；代数余子式 定义为 A_{ij} = (-1)^{i+j} M_{ij}。沿任意一行或一列展开：

展开时各项符号依 (-1)^{i+j} 交替（棋盘格规律）。此法对任意阶方阵均有效，高阶行列式通常按此方法（或结合初等行变换）计算。

3.3 例

2 阶：

3 阶（按第一行展开）：

性质验证：交换前两行，\det \begin{pmatrix} 5 & 3 \\ 2 & 1 \end{pmatrix} = 5 - 6 = -1，符号相反。

小结（§3）：行列式 \det(A) \neq 0 是方阵可逆的第一个判据。下一节从线性无关的角度引入 秩，并与方程组解联系起来。

§4 秩与线性方程组

4.1 秩的定义

矩阵 A 的 秩 \text{rank}(A) 是其列向量组（或行向量组）的极大线性无关组所含向量的个数。

• \text{rank}(A) \leq \min(m, n)
• 可逆 n 阶方阵的秩等于 n

相关子空间记号：

秩的求法

方法一：初等行变换（推荐）

对 A 施以初等行变换（交换两行、某行乘以非零常数、某行加上另一行的倍数），化为 行阶梯形 或 行最简形（RREF）。非零行的个数即为秩；等价地，主元列的个数也为秩。

例（与 §4.3 相同矩阵）：

第 1 步：R_2 \leftarrow R_2 - 2R_1，R_3 \leftarrow R_3 - R_1：

第 2 步：R_2 \leftrightarrow R_3，R_2 \leftarrow -R_2：

两行非零，主元在第 1、2 列，故 \text{rank}(A) = 2。继续化为行最简形：R_1 \leftarrow R_1 - 2R_2，得 \begin{pmatrix} 1 & 0 & -1 \\ 0 & 1 & 2 \\ 0 & 0 & 0 \end{pmatrix}，可读出 c_3 = -c_1 + 2c_2。

方法二：行列式（仅方阵）

n 阶方阵 A 满秩 \Leftrightarrow \det(A) \neq 0。若 \det(A) = 0，则 \text{rank}(A) < n，需进一步化简求精确秩。

方法三：观察线性相关性

若可直接看出某行（列）是其余行（列）的倍数或线性组合，可快速判断秩。如 §4.3 中第 2 行 = 2 \times 第 1 行，立知 \text{rank}(A) \leq 2；再结合第 3 行与第 1 行不成比例，得 \text{rank}(A) = 2。

注：\text{rank}(A) = \text{rank}(A^T)（行秩 = 列秩）；初等 列 变换不改变秩。

4.2 秩与方程组

对 m \times n 矩阵 A，线性方程组 A\mathbf{x} = \mathbf{b} 有解，当且仅当

其中 [A \mid \mathbf{b}] 为 增广矩阵（将列向量 \mathbf{b} 拼在 A 右侧）。

4.3 例

第 2 行 = 2 × 第 1 行，故列向量中线性无关的最多 2 个，\text{rank}(A) = 2。

解方程组 A\mathbf{x} = \mathbf{b}，\mathbf{b} = (6, 12, 3)^T：

方程有解（无穷多解）。若 \mathbf{b} = (6, 12, 4)^T，则 \text{rank}([A \mid \mathbf{b}]) = 3 > 2，无解。

小结（§4）：秩刻画了矩阵"有效维度"。结合行列式，可以完整讨论方阵的 逆。

§5 逆矩阵

若 n 阶方阵 A 满足 AA^{-1} = A^{-1}A = I，则 A 可逆，A^{-1} 称为 A 的逆矩阵。

5.1 可逆的充要条件

以下等价（A 为 n 阶方阵）：

• \det(A) \neq 0
• \text{rank}(A) = n
• A 的列（行）向量线性无关
• 对任意 \mathbf{b}，A\mathbf{x} = \mathbf{b} 有唯一解

5.2 2 阶求逆公式

5.3 例

验证：AA^{-1} = \begin{pmatrix} 2 & 1 \\ 5 & 3 \end{pmatrix}\begin{pmatrix} 3 & -1 \\ -5 & 2 \end{pmatrix} = I_2。

小结（§5）：逆矩阵是"乘法意义下的倒数"。下面讨论具有特定 结构 的矩阵——它们在线性变换与二次型中反复出现。

§6 结构特殊的矩阵（实数情形）

在掌握基本运算与逆之后，可以识别并运用几类重要的 实矩阵。

迹 \text{tr}(A) 定义为对角元之和；对称矩阵的迹等于其特征值之和（见 §8）。

6.1 例

对称矩阵：A = \begin{pmatrix} 1 & 2 \\ 2 & 3 \end{pmatrix}，因为 A^T = A，\text{tr}(A) = 1 + 3 = 4。

反对称矩阵：B = \begin{pmatrix} 0 & 2 \\ -2 & 0 \end{pmatrix}，因为 B^T = -B。

正交矩阵（旋转矩阵）：

正定矩阵：P = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix}，对 \mathbf{x} = (1, -1)^T 有 \mathbf{x}^T P \mathbf{x} = 2 > 0。

小结（§6）：实数域上，转置 A^T 足以描述对称与正交。当元素为 复数 时，需要推广到共轭转置——见下一节。

§7 复数矩阵

在实数范围内，矩阵元素都是实数，转置 A^T 就足够了。当元素为 复数 时，需要引入 共轭 的概念。

7.1 复数的共轭

设 z = a + bi（a, b \in \mathbb{R}，i^2 = -1），其 共轭复数（简称 共轭）为：

几何上，复平面 用坐标 (a, b) 表示所有复数 z = a + bi（a 为实部，b 为虚部）。横轴为 实轴（Re），竖轴为 虚轴（Im）。共轭运算将 z 映为 \bar{z}，在坐标上即

实部 a 不变，虚部 b 变号——相当于在复平面上关于 实轴（横轴）做镜像对称。取原点 O = (0, 0) 为实轴与虚轴的交点，则 z、垂足 (a, 0)、\bar{z} 落在同一条竖直线 x = a 上：

        Im (虚轴)
         ↑
         |
         |           • z = a + bi  ↔  (a, b)
         |           |
         |           | 虚部 b
         |           |
  ───────┼───────────┼──────────→ Re (实轴)
      O(0,0)       (a, 0)              实部 a
         |           |
         |           | 虚部 −b
         |           |
         |           • z̄ = a − bi  ↔  (a, −b)

图中 • 表示复平面上的点；O 为坐标原点，(a, 0) 是 z 在实轴上的垂足。z 与 \bar{z} 关于实轴对称，虚部互为相反数。

例：

复数的运算

设 z_1 = a_1 + b_1 i，z_2 = a_2 + b_2 i（a_k, b_k \in \mathbb{R}），常用 实部 \mathrm{Re}(z) = a、虚部 \mathrm{Im}(z) = b（注意 \mathrm{Im}(z) 取实数值 b，而非 bi）。

加减法按实部、虚部分别相加减；乘法展开时利用 i^2 = -1；除法将分子分母同乘分母的共轭 \bar{z}_2，使分母变为实数 \|z_2\|^2（有理化）。

例：

7.2 矩阵共轭与共轭转置

• 矩阵共轭 \bar{A}：对 A 的 每个元素 分别取共轭，即 (\bar{A})_{ij} = \overline{a_{ij}}。
• 共轭转置 A^* = A^H = (\bar{A})^T：先转置，再对每个元素取共轭（等价于先取共轭再转置）。

例：

7.3 复数域上的特殊矩阵

Hermite 矩阵的对角元必为 实数（因为 a_{ii} = \overline{a_{ii}}），非对角元关于主对角线 共轭对称：a_{ij} = \overline{a_{ji}}。

例：H = \begin{pmatrix} 2 & 1+i \\ 1-i & 3 \end{pmatrix}

• 对角元 2, 3 为实数 ✓
• H_{12} = 1+i，H_{21} = 1-i = \overline{1+i} ✓
• 故 H^* = H，H 是 Hermite 矩阵

酉矩阵：U = \begin{pmatrix} 1 & 0 \\ 0 & i \end{pmatrix}，U^* = \begin{pmatrix} 1 & 0 \\ 0 & -i \end{pmatrix}，故 U^* U = I。

小结（§7）：共轭转置 A^* 是转置 A^T 在复数域上的自然推广；Hermite 矩阵、酉矩阵、量子力学中的可观测量都建立在其上。

§8 特征值与特征向量

对 n 阶方阵 A，若存在非零向量 \mathbf{v} 和标量 \lambda，使得

则 \lambda 称为 A 的 特征值，\mathbf{v} 称为对应于 \lambda 的 特征向量。

直观理解：特征向量在 A 作用下 只被拉伸（或压缩、反向），方向不变。

8.1 特征方程

特征值是 特征方程 的根：

该多项式称为 A 的 特征多项式，次数为 n。

8.2 重要结论

• \text{tr}(A) = \sum_{i=1}^{n} \lambda_i（特征值之和等于迹）
• \det(A) = \prod_{i=1}^{n} \lambda_i（特征值之积等于行列式）
• 相似矩阵 A \sim B（即 B = P^{-1}AP 对某可逆 P）有相同的特征值

8.3 例

特征方程：

• \text{tr}(A) = 7 = 5 + 2 ✓
• \det(A) = 12 - 2 = 10 = 5 \times 2 ✓

对 \lambda_1 = 5：(A - 5I)\mathbf{v} = \mathbf{0} 得 \mathbf{v}_1 = (1, 1)^T。

对 \lambda_2 = 2：(A - 2I)\mathbf{v} = \mathbf{0} 得 \mathbf{v}_2 = (1, -2)^T。

验证：A\mathbf{v}_1 = \begin{pmatrix} 5 \\ 5 \end{pmatrix} = 5\mathbf{v}_1。

小结（§8）：特征值把矩阵作用"分解"为沿各特征方向的缩放。当矩阵可对角化时，可进一步做 特征值分解（见 §9）。

§9 矩阵分解

矩阵分解将复杂矩阵拆成结构简单的因子之积，便于理论分析与数值计算。由易到难：

SVD 中 \Sigma 对角元 \sigma_i \geq 0 称为 奇异值。

9.1 分步算例

以下用具体矩阵，按步骤手算各分解。符号与上表一致。

LU 分解

例：A = \begin{pmatrix} 2 & 1 \\ 4 & 3 \end{pmatrix}，解 A\mathbf{x} = \mathbf{b}，\mathbf{b} = \begin{pmatrix} 1 \\ 1 \end{pmatrix}。

第 1 步（k=1）：消去第 2 行第 1 列元素。乘子 l_{21} = a_{21}/a_{11} = 4/2 = 2；第 2 行减去 2 倍第 1 行：

第 2 步（读出 L、U）：

验证：LU = \begin{pmatrix} 2 & 1 \\ 4 & 3 \end{pmatrix} = A。

第 3 步（解方程组）——前代 L\mathbf{y} = \mathbf{b}：

回代 U\mathbf{x} = \mathbf{y}：

解为 \mathbf{x} = (1,\, -1)^T。

Cholesky 分解

例：A = \begin{pmatrix} 4 & 2 \\ 2 & 2 \end{pmatrix}（对称正定）。

设 L = \begin{pmatrix} l_{11} & 0 \\ l_{21} & l_{22} \end{pmatrix}，由 A = LL^T 逐元素递推：

第 1 列：

第 2 列：

故

QR 分解（Gram–Schmidt）

例：A = \begin{pmatrix} 1 & 1 \\ 1 & 0 \\ 0 & 1 \end{pmatrix}，列向量 \mathbf{a}_1 = (1,1,0)^T，\mathbf{a}_2 = (1,0,1)^T。

第 1 列：

第 2 列——先减去在 \mathbf{q}_1 上的投影：

归一化：

结果：

验证：QR = A（Q^TQ = I，R 上三角）。

满秩分解

设 A 为 m \times n 矩阵，\text{rank}(A) = r。满秩分解 将 A 写成

其中 F 为 m \times r 列满秩 矩阵（\text{rank}(F) = r），G 为 r \times n 行满秩 矩阵（\text{rank}(G) = r）。F 的列张成 列空间 \text{col}(A)，G 的行张成 行空间 \text{row}(A)。

例：A = \begin{pmatrix} 1 & 2 & 3 \\ 2 & 4 & 6 \\ 1 & 1 & 1 \end{pmatrix}（与 §4 相同，3 \times 3，\text{rank}(A) = 2）。

第 1 步（行最简形）——对 A 做初等行变换：

主元在第 1、2 列，故 r = 2。

第 2 步（取 F）——在 原矩阵 A 中取主元列（第 1、2 列）：

第 3 步（取 G）——在行最简形 R 中取前 r 个非零行（主元行）：

第 4 步（验证）：

读出行最简形的列关系（c_i 为 A 的第 i 列）：c_3 = -c_1 + 2c_2，即第 3 列由主元列线性表出，与 G 的第三列 (-1,\,2)^T 的系数一致。

注：满秩分解不唯一（主元列选取、行变换路径不同均可给出不同的 F,G）。对 m \times n 矩阵，F 的阶为 m \times r，G 的阶为 r \times n。

特征值分解

例：A = \begin{pmatrix} 4 & 1 \\ 2 & 3 \end{pmatrix}（与 §8 相同）。

第 1 步（特征值）：

第 2 步（\lambda_1 = 5 的特征向量）——解 (A - 5I)\mathbf{v} = \mathbf{0}：

第 3 步（\lambda_2 = 2 的特征向量）——解 (A - 2I)\mathbf{v} = \mathbf{0}：

第 4 步（组装 P）：

验证：AP = \begin{pmatrix} 5 & 2 \\ 5 & -4 \end{pmatrix} = PD。

奇异值分解（SVD）

例：A = \begin{pmatrix} 1 & 2 \\ 2 & 1 \end{pmatrix}（非对角，便于展示完整流程）。

第 1 步（计算 A^TA）：

第 2 步（A^TA 的特征值与 V）：

奇异值 \sigma_1 = \sqrt{9} = 3，\sigma_2 = \sqrt{1} = 1。

• \lambda_1 = 9：(A^TA - 9I)\mathbf{v} = \mathbf{0} 得 \mathbf{v}_1 = \frac{1}{\sqrt{2}}(1,\,1)^T
• \lambda_2 = 1：(A^TA - I)\mathbf{v} = \mathbf{0} 得 \mathbf{v}_2 = \frac{1}{\sqrt{2}}(1,\,-1)^T

第 3 步（求 U）——对 \sigma_i > 0，\mathbf{u}_i = \dfrac{1}{\sigma_i} A\mathbf{v}_i：

第 4 步（验证）：U\Sigma V^T = A，且 U^TU = V^TV = I。

注：若 A 本身已是对角阵（如 \begin{pmatrix} 3 & 0 \\ 0 & -2 \end{pmatrix}），可直接取 \sigma_i = |a_{ii}|，U = V = I（负对角元对应 V 中符号调整），无需完整计算 A^TA。

小结（§9）：分解是连接理论与算法的桥梁。SVD 的奇异值也用于定义矩阵 范数 与 条件数。

§10 范数与条件数

10.1 矩阵范数

Frobenius 范数（最直观，对应元素平方和）：

谱范数（2-范数）：\|A\|_2 = \sigma_{\max}(A)，即最大奇异值。

10.2 条件数

条件数衡量 A\mathbf{x} = \mathbf{b} 对数据扰动的敏感程度：\kappa 越大，数值求解越 病态（不稳定）。

10.3 例

Frobenius 范数：

A^{-1} = \begin{pmatrix} -2 & 1 \\ 1.5 & -0.5 \end{pmatrix}，\|A^{-1}\|_F = \sqrt{4 + 1 + 2.25 + 0.25} = \sqrt{7.5} \approx 2.74。

条件数（Frobenius 范数）：\kappa_F(A) \approx 5.48 \times 2.74 \approx 15，属中等敏感。

对比 Hilbert 矩阵 H_2 = \begin{pmatrix} 1 & 0.5 \\ 0.5 & 0.333 \end{pmatrix}，\kappa(H_2) \approx 27，病态程度更高。

§11 典型应用

将前述工具与实际问题对应：

11.1 例

线性方程组：\begin{pmatrix} 2 & 1 \\ 4 & 3 \end{pmatrix}\begin{pmatrix} x_1 \\ x_2 \end{pmatrix} = \begin{pmatrix} 1 \\ 1 \end{pmatrix}，解为 \mathbf{x} = (1, -1)^T。

线性变换：旋转矩阵 R_{90°} = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix} 将 (1, 0)^T 映为 (0, 1)^T。

PCA：数据协方差矩阵 \Sigma = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix} 的特征值为 3, 1，最大特征值对应方向 (1, 1)^T 为第一主成分。

图论：三角形图的邻接矩阵 A = \begin{pmatrix} 0 & 1 & 1 \\ 1 & 0 & 1 \\ 1 & 1 & 0 \end{pmatrix}，度矩阵 D = \text{diag}(2,2,2)，拉普拉斯矩阵 L = D - A。

机器学习：线性回归 \hat{\mathbf{y}} = X\boldsymbol{\beta}，正规方程 \boldsymbol{\beta} = (X^T X)^{-1} X^T \mathbf{y} 即矩阵求逆的应用。

附录：记号一览

本文及矩阵论中常用的记号汇总如下，按主题分类，便于查阅。

A. 矩阵、元素与维数

B. 向量

C. 特殊矩阵

D. 基本运算

E. 行列式、秩与迹

F. 子空间与线性方程组

G. 结构特殊的矩阵

H. 复数与共轭

I. 特征值与相似

J. 矩阵分解

K. 范数与条件数

L. 应用与其他常用符号

参考资料

• 张贤达，《矩阵分析与应用》
• Roger A. Horn & Charles R. Johnson, Matrix Analysis
• Gilbert Strang, Introduction to Linear Algebra
• 丘维声，《高等代数》