证明:二次型f=x^TAx在||x||=1时的最大值为矩阵A的最大特征值

证明:二次型f(x)=x^TAx\|x\|=1时的最大值为矩阵A的最大特征值\lambda_{max},其中A是对称正定矩阵。

因为A是对称矩阵,所以必定存在正交矩阵P使得A=P\Lambda P^{-1}=P\Lambda P^T,其中\LambdaA的特征值组成的对角阵,P中列向量就是对应的特征向量。正交矩阵显然可逆,其逆为转置矩阵,所以可以写为\Lambda=P^TAP

又因为是正定矩阵,所以所有特征值都为正:\lambda_i>0

我们做正交变换:x=Py,注意到正交变换是双射的保范变换:\|x\|^2_2=x^Tx=(Py)^T(Py)=y^TP^TPy=y^Ty=\|y\|^2_2
因此我们就有\begin{split} \max_{\|x\|_2=1}f(x) &=\max_{\|x\|_2=1}x^TAx\\ &=\max_{\|y\|_2=1}y^TP^TAPy\\ &=\max_{\|y\|_2=1}y^T\Lambda y\\ &=\max_{\sum_i y_i^2=1}\sum_i \lambda_i y_i^2\\ &\leqslant \lambda_{max} \max_{\sum_i y_i^2=1}\sum_i y_i^2=\lambda_{max} \end{split}这样就得到了一个上界,现在我们证明确实能够取到这个上界。假设\lambda_{max}\Lambda对角线上第i个值,于是取y=e_i,x=P^{-1}y,则\|x\|_2=\|y\|_2=1,所以x^TAx=y^T\Lambda y=e_i^T\Lambda e_i=\lambda_{max}这就证明了\max_{\|x\|_2=1}f(x)\geqslant \lambda_{max}
所以我们有\max_{\|x\|_2=1}f(x)=\lambda_{max}

我们因此还可以证明\min_{\|x\|_2=1}f(x)=\lambda_{min}