正定矩阵

定义

正定矩阵是对称矩阵（或者更一般的厄米矩阵）的一种特殊形式。一个 $n\times n$ 的实对称矩阵 $A$ 被称为正定矩阵，如果对于所有非零向量 $x\in\mathbb R^n$，都有

$$x^TAx>0.$$

对实对称矩阵，这等价于所有特征值 $\lambda_i$ 都大于零。正定矩阵的性质类似复数中的正实数；与之对应的线性算子是对称正定双线性形式，复数域中则对应厄米正定形式。

若对任意 $x$ 都有 $x^TAx\geq0$，则 $A$ 称为半正定矩阵。

性质

1. 所有特征值都为正。

2. 正定矩阵可逆，并且其逆矩阵也是正定矩阵。

3. 行列式 $\det(A)>0$；但行列式大于零本身不足以推出正定。

4. 任意正定矩阵 $A$ 都可以进行 Cholesky 分解：

   $$A=LL^T,$$

   其中 $L$ 是对角元全为正的下三角矩阵，并且在此约定下唯一。

5. 若 $A$ 正定且 $B$ 列满秩，则 $B^TAB$ 也正定；若 $B$ 不满列秩，则 $B^TAB$ 只能保证半正定。

6. 正定矩阵的任意主子矩阵仍然正定。对于对称分块矩阵，还可使用 Schur 补判断正定性。

7. 若 $\lambda_{\min}(A)$ 为最小特征值，则

   $$x^TAx\geq\lambda_{\min}(A)\|x\|_2^2.$$

所有特征值均为正这一性质使正定矩阵对应严格凸的二次型，因此它在优化问题中尤其重要。

判断

判断实对称矩阵 $A$ 是否正定，常用以下方法：

1. 特征值法：所有特征值都为正。
2. 顺序主子式法：从左上角开始的所有顺序主子式都大于零。
3. 二次型法：对任意非零向量 $z$，验证 $z^TAz>0$。

例题

判断

$$A=\begin{bmatrix}3&1\\1&3\end{bmatrix}$$

是否为正定矩阵。

特征值法

$$\det(A-\lambda I) =\begin{vmatrix}3-\lambda&1\\1&3-\lambda\end{vmatrix} =\lambda^2-6\lambda+8=0.$$

解得 $\lambda=4,2$。两个特征值均为正，所以 $A$ 正定。

顺序主子式法

一阶与二阶顺序主子式分别为

$$3>0,\qquad \det(A)=3\cdot3-1\cdot1=8>0.$$

因此 $A$ 正定。

二次型法

对任意非零向量 $z=\begin{bmatrix}z_1&z_2\end{bmatrix}^T$，

$$\begin{aligned} z^TAz &=3z_1^2+2z_1z_2+3z_2^2\\ &=2z_1^2+2z_2^2+(z_1+z_2)^2>0. \end{aligned}$$

因此 $A$ 正定。