[问题2014S10] 设 \(A,B\) 为 \(n\) 阶方阵, 证明: \(AB\) 与 \(BA\) 相似的充分必要条件是 \[\mathrm{rank}\big((AB)^i\big)=\mathrm{rank}\big((BA)^i\big),\, i=1,2,\cdots,n-1.\]
注 (1) 本题是复旦高代教材 P172 习题 6 的推广, 即若 \(A,B\) 中有一个是非异阵, 则 \(AB\) 与 \(BA\) 相似.
(2) 设 \[A=\begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix},\, B=\begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix},\] 则 \(AB=B\) 不相似于 \(BA=0\), 这是因为 \(\mathrm{rank}(AB)=1\neq 0=\mathrm{rank}(BA)\).