设 $A,B$ 是 $n$ 阶实对称矩阵. 试证: $\tr((AB)^2)\leq \tr(A^2B^2)$. 又问: 等号何时成立?
证明: 由 $$\bex \sum_i \sez{\sum_j a_{ij}b_{ji}}=\sum_j\sez{\sum_i b_{ji}a_{ij}} \eex$$ 知 $$\bee\label{130912:1} \tr(AB)=\tr(BA). \eee$$ 对 $A,B\in M_n(\bbR)$, 定义 $$\bex \sef{A,B}=\tr(A^tB), \eex$$ 则易知 $\sef{\cdot,\cdot}$ 是 $M_n(\bbR)$ 上的内积 (正定对称双线性函数, 而使得 $M_n(\bbR)$ 成为 Euclidean 空间), 其满足 Cauchy 不等式: $$\bex \sef{A,B}\leq \sqrt{\sef{A,A}}\cdot \sqrt{\sef{B,B}}. \eex$$ 于是 $$\beex \bea \tr((AB)^2) &=\tr((BA)^tAB)\\ &=\sef{BA,AB}\\ &\leq \sqrt{\sef{BA,BA}}\cdot \sqrt{\sef{AB,AB}}\\ &=\sqrt{\tr((BA)^tBA)}\cdot \sqrt{\tr((AB)^tAB)}\\ &=\sqrt{\tr(ABBA)}\cdot \sqrt{\tr(BAAB)}\\ &=\sqrt{\tr(A^2B^2)}\cdot\sqrt{\tr(A^2B^2)}\quad\sex{\mbox{由 }\eqref{130912:1}}\\ &=\tr(A^2B^2), \eea \eeex$$ 且等号成立当且仅当 $$\bex \exists\ \lambda,\mu\mbox{ 不全为零 },\st \lambda BA+\mu AB=0. \eex$$
