最小二乘的凸优化

原文题:
* 最小化：\((Ax-b)^T(Ax-b)\)
* 其中\(A\)是一个\(m\times n\)的矩阵，并且\(m>n\).
令 \(y=Ax-b\),并令\(H\)为与\(A\)的列空间的正交补空间的一组基组成的矩阵:也即是说 \(H^TA=0_{(m-n)\times n}\).

于是\(y\)为满足方程\(H^Ty=H^TAx-H^Tb = H^Tb\) 的向量。

此时用\(d = H^Tb\)，则原问题转化为：
* 最小化：\(y^Ty\)
* 条件：\(H^Ty - d = 0\)