正定二次型

正定二次型是指一个二次型 $Q(x) = x^T A x$, 其中矩阵 $A$ 是正定矩阵. 这意味着对于所有非零向量 $x$, 二次型 $Q(x) > 0$. 正定矩阵的特征值全为正数, 且其行列式也大于零.

二次型

一个二次型可以表示为形式:

$$f(\mathbf{x}) = \mathbf{x}^T A \mathbf{x}$$

这里 $\mathbf{x}$ 是一个 $n$ 维向量, $A$ 是一个与之相对应的 $n \times n$ 实对称矩阵.

在几何上, 二次型可以表示椭圆 (二维) 、椭球 (三维) 或更高维空间的超曲面. 如果矩阵 $A$ 是正定的, 则该二次型表示的几何形状是一个椭圆或椭球体.

正定二次型

二次型 $f(\mathbf{x}) = \mathbf{x}^T A \mathbf{x}$ 被称为正定的, 如果对于所有非零向量 $\mathbf{x}$, 都有:

$$\mathbf{x}^T A \mathbf{x} > 0$$

此外, 矩阵 $A$ 被称为正定矩阵. 还有其他几种判断正定性的方法:

1. 特征值判定法: 矩阵 $A$ 是正定的当且仅当其所有特征值都是正的. 特征值描述了椭圆在主轴方向上的拉伸程度.
2. 主子式判定法: 矩阵 $A$ 的所有顺序主子式 (从左上角开始的子矩阵的行列式) 必须都是正的.
3. Cholesky 分解: 如果实对称矩阵 $A$ 可以分解为 $A = L L^T$, 其中 $L$ 是下三角矩阵, 那么 $A$ 是正定的.

几何解释: 椭圆与椭球体

在二维情况下, 正定二次型对应于椭圆方程:

$$\mathbf{x}^T A \mathbf{x} = 1$$

通过特征分解 $A = Q \Lambda Q^T$, 将方程变换到主轴方向, 得到:

$$\lambda_1 x^2 + \lambda_2 y^2 = 1$$

其中 $\lambda_1, \lambda_2$ 是矩阵 $A$ 的特征值. 椭圆的主轴方向由特征向量给出, 而椭圆的半轴长度由 $a = \frac{1}{\sqrt{\lambda_1}}, b = \frac{1}{\sqrt{\lambda_2}}$ 决定.

面积扩展与椭圆变换

如果椭圆面积被扩大, 例如:

$$\frac{x^2}{a^2} + \frac{y^2}{b^2} = 8$$

右侧的 $8$ 表示椭圆的面积扩大了 $8$ 倍, 对应的半轴长度扩大 $\sqrt{8}$ 倍. 椭圆的面积与半轴长度的平方成正比, 因此当面积扩大 $8$ 倍时, 半轴长度扩大 $\sqrt{8}$ 倍.

具体计算:
假设 $a = \frac{1}{\sqrt{\lambda_1}}, b = \frac{1}{\sqrt{\lambda_2}}$, 那么面积扩展后的半轴长度为:

$$a' = a \sqrt{8} = \frac{1}{\sqrt{8 \lambda_1}}, \quad b' = b \sqrt{8} = \frac{1}{\sqrt{8 \lambda_2}}$$

特征分解

矩阵 $A$ 可以进行特征分解:

$$A = Q \Lambda Q^T$$

其中 $Q$ 是由特征向量构成的正交矩阵, $\Lambda$ 是特征值构成的对角矩阵. 通过坐标变换 $x' = Q^T x$, 椭圆在新坐标系下主轴对齐, 二次型简化为:

$$(x')^T \Lambda x' = 1$$

当椭圆面积扩展时, 方程变为:

$$(x')^T \Lambda x' = 8$$

此时新的半轴长度为:

$$a' = a \sqrt{8}, \quad b' = b \sqrt{8}$$

几何含义

在物理学中, 正定二次型常用于描述系统的稳定性和势能. 例如, 一个物理系统的势能通常被建模为一个正定的二次型, 表示系统处于稳定状态.

在优化和机器学习中, 正定二次型的矩阵保证了目标函数是凸的, 从而使问题可以找到全局最优解. 此外, 协方差矩阵通常假设为正定, 这保证了数据的分布具有良好的数学性质.

应用

正定二次型在多个领域具有重要应用, 包括:

• 优化: 目标函数是凸函数时, 二次型表示了系统的最优解.
• 统计学: 协方差矩阵的正定性确保了模型的稳定性和合理性.
• 物理学: 描述势能和稳定性, 确保系统不会出现不稳定的行为.

正定二次型的研究和应用涵盖了矩阵理论、优化、统计分析以及物理学等众多领域, 对理解和解决实际问题具有重要意义.