9.3 Gram-Schmidt 正交化

正交基很有价值，但大部分一开始给你的基底都不是正交的。Gram-Schmidt 过程正正就是用来修补这件事的标准方法。

它从任意一组线性无关向量开始，逐步删去那些已经落在先前方向上的成 分。留下来的新向量会互相正交，而且每一步都保留原本的张成空间。

Gram-Schmidt 背后的投影想法

假设 $v_1,\dots,v_k$ 已经是正交向量，而 w 是任意向量。若你想取出 w 中那个同时垂直于所有 $v_i$ 的部分，就要把 w 在各个 $v_i$ 方 向上的成分全部扣掉：

$$w- \frac{\langle w,v_1\rangle}{\|v_1\|^2}v_1 -\cdots- \frac{\langle w,v_k\rangle}{\|v_k\|^2}v_k.$$

这条定理就是整个算法的引擎：它精确告诉你怎样从一个新向量中扣走“已 有方向”的部分。

Gram-Schmidt 过程

第二点与第一点同样重要。Gram-Schmidt 并不是随便产生一些正交向量； 它在每一步都保留了原来的张成空间。

怎样阅读这个算法

第一个向量完全不改：

$$v_1=w_1.$$

第二个向量，就是 $w_2$ 中与 $v_1$ 垂直的那部分。

第三个向量，就是 $w_3$ 中同时与 $v_1$ 与 $v_2$ 垂直的那部分。

之后每一步都一样：把已经落在旧方向中的部分扣除，只留下新的正交方 向。

由正交基走向标准正交基

Gram-Schmidt 给你的是正交基。若想得到标准正交基，只需把每个非零向 量规范化：

$$u_i=\frac{v_i}{\|v_i\|}.$$

因此，标准正交基并不是偶然的特殊现象，而是每个有限维子空间都可获得 的结构。

常见错误

快速检查

练习

相关笔记

应先读 9.2 正交集与标准正交基， 因为 Gram-Schmidt 正是建立在正交坐标公式上。

本节的存在性结论，也是把 6.2 子空间 与 6.5 基底与维数 推向更几何版本的重要工具。

下一节 9.4 Cauchy-Schwarz 与三角不等式 则会说明这些投影步骤背后的估计原理。