数值算法与案例分析Ⅰ：课程总览

数值算法研究“有限精度计算机怎样可靠地得到有用答案”。一套算法至少要同时回答四个问题：

1. 可计算性：怎样把数学问题改写成有限步骤？
2. 稳定性：舍入误差会不会在计算中失控？
3. 复杂度：时间、存储和数据访问成本是多少？
4. 可扩展性：矩阵大到无法存储或分解时，还能利用什么结构？

四类基本问题

问题	标准形式	主要算法路线
线性方程组	$Ax=b$	LU、Cholesky、定常迭代、Krylov 方法
最小二乘	$\underset{x}{min}|Ax-b{|}_2$	QR、SVD、正则化、LSQR
特征值与奇异值	$Ax=\lambda x$，$A=U\mathrm{\Sigma }{V}^{\ast }$	Hessenberg/三对角约化、QR、Lanczos
矩阵方程与函数	$AX-XB=C$，$f(A)$	Schur 化、Sylvester 递推、Krylov 投影

这些问题彼此并不孤立：最小二乘的一阶条件是线性系统，SVD 可转化为 Hermite 特征值问题，矩阵函数的 Schur-Parlett 递推又归结为 Sylvester 方程。课程的核心能力正是把新问题稳定地约化为已知问题。

统一记号

• $A^{\ast }$ 表示共轭转置；实矩阵时就是 $A^T$。
• $\parallel \cdot {\parallel }_2$ 与 $\parallel \cdot {\parallel }_F$ 分别表示谱范数和 Frobenius 范数。
• $u$ 为单位舍入误差，${\gamma }_n=nu/(1-nu)$ 用于合并多次舍入误差。
• ${\mathcal{K}}_m(A,v)$ 为 Krylov 子空间，$\rho (A)$ 为谱半径。
• “Hermite”在实数情形对应“对称”；“酉”在实数情形对应“正交”。

课程主线可以画成：

图表渲染中…

三种阅读路线

• 考试复习：01 → 02 → 04 → 05 → 06 → 07 → 08 → 10 → 11 → 12。
• 工程计算：01 → 02 → 03 → 04 → 05 → 09 → 10 → 11 → 12。
• 大规模数据：04 → 11 → 12 → 13，再读 14 的项目案例。

章节导航

章	主题	核心问题
01	浮点数与误差	机器精度怎样进入每一次运算？
02	三角求解与 LU	消元何时稳定，选主元解决什么？
03	Cholesky 与结构	对称、正定、带状和稀疏结构怎样省计算？
04	Householder、Givens 与 QR	为什么正交变换是数值线性代数的安全操作？
05	最小二乘	正规方程、QR、SVD 与正则化怎样取舍？
06	幂法与反迭代	怎样只计算所需的少数特征对？
07	QR 与 Francis 迭代	通用稠密矩阵的全部特征值怎样计算？
08	对称特征问题与 SVD	特殊结构怎样带来更快、更稳的算法？
09	Sylvester、$e^A$	如何在不破坏结构的前提下计算矩阵函数？
10	Jacobi、GS、SOR	大型稀疏方程为何从分解转向迭代？
11	Arnoldi、FOM、GMRES	如何把大问题投影为小 Hessenberg 问题？
12	SD、CG 与预条件	正定系统怎样获得可证明的快速收敛？
13	Lanczos 与大规模计算	只靠矩阵-向量乘法能完成哪些任务？
14	Francis QR 项目	怎样把理论算法落实为可验证的 Schur 分解程序？
附录 A	推导索引	核心证明、算法不变量与选择依据是什么？
附录 B	期末速查	常用复杂度、稳定性结论和易错点是什么？

贯穿全课的判断框架

面对一个数值问题，先依次问：

1. 输入数据本身是否病态？看条件数与扰动理论。
2. 算法是否稳定？看后向误差，而不只看中间步骤。
3. 是否存在可利用结构？对称、正定、带状、Hessenberg、稀疏、低秩。
4. 需要全部信息还是少数特征对/一个矩阵函数作用？后者优先 Krylov 方法。
5. 误差停止准则是否与问题目标一致？残差小不总等于前向误差小。