命题需要A是实矩阵才成立

证明:
(1)设X1是AX=0的解, 则AX1=0
所以A^TAX1=A^T(AX1)=A^T0=0
所以X1是A^TAX=0的解.
故 Ax=0 的解是 A^TAX=0 的解.

(2)设X2是A^TAX=0的解, 则A^TAX2=0
等式两边左乘 X2^T得 X2^TA^TAX2=0
所以有 (Ax2)^T(Ax2)=0
所以 AX2=0. [长度为0的实向量必为0向量, 此时用到A是实矩阵]
所以X2是AX=0的解.
故A^TAX=0的解是AX=0的解.

综上知齐次线性方程组AX=0与A^TAX=O是同解方程组.
所以它们的基础解系所含向量的个数相同
故有r(A) = r(A^TA)