← 全部笔记

高等代数

Gram–Schmidt与QR分解

文章目录

来源 谢启鸿、姚慕生, 高等代数学习指导书, 第4版, 第9章, 印刷页 501–508, 589–590. PDF页码 = 印刷页码 + 10。 来源PDF 根据已目视核对的扫描件整理;简洁证明及明确标出的推广为整理者补充。

取R\mathbb R或C\mathbb C,内积对第一个变量线性。Gram–Schmidt正交化保持有序线性无关组每个前缀所张成的空间。

保持各个前缀空间

令 vk=xk−∑j<k⟨xk,vj⟩∥vj∥2vj,qk=vk/∥vk∥.v_k=x_k-\sum_{j<k}\frac{\langle x_k,v_j\rangle}{\|v_j\|^2}v_j,\qquad q_k=v_k/\|v_k\|. 每个vkv_k均与其前面的向量正交。它非零,因为否则xkx_k会落在前面的向量所张成的空间中。用正的实范数归一化,便固定了这一步的尺度与相位。

对列满秩矩阵X∈Fn×mX\in\mathbb F^{n\times m},其中m≤nm\le n,上述过程给出薄QR分解X=QRX=QR,满足Q∗Q=ImQ^*Q=I_m;RR为上三角矩阵,且rkk>0r_{kk}>0。

唯一性与Gram矩阵分解 对角元为正的薄QR分解唯一;并且X∗X=R∗RX^*X=R^*R。

证明。 两种分解中的QQ的列向量均为同一组逐次前缀空间的标准正交基,因此换基矩阵既酉又上三角。这样的矩阵必为对角矩阵,且对角元模为一;两个RR因子的对角元都为正,迫使这些相位全部为一。

这就是Gram矩阵的Cholesky分解,同时证明 det⁡(X∗X)=∏k∥vk∥2≤∏k∥xk∥2.\det(X^*X)=\prod_k\|v_k\|^2\le\prod_k\|x_k\|^2. 对线性无关组,等号成立当且仅当原向量两两正交。对线性相关组,行列式为零;它与范数平方之积相等,当且仅当至少有一个原向量为零。

若XX秩亏,仍可通过任取正交补全构造QR分解,但正对角元条件及上述唯一性结论不再适用。不能除以零残差的范数。

正交多项式

在 ⟨f,g⟩=∫−11fg\langle f,g\rangle=\int_{-1}^1fg 下正交化 1,x,x2,…1,x,x^2,\ldots,可得到Legendre多项式。Rodrigues公式、分部积分证明、范数以及最佳逼近的投影公式已集中到 Legendre多项式与正交展开。这里保留这一例子与QR的联系:有序正交化保持每个前缀空间,而归一化决定最终基的尺度。