A是一个3阶的实对称矩阵,有3个实特征值分别是：1,1,3,其中特征值1是二重的,要求的可逆矩阵P就是这3个特征值对应的特征向量,求出即可.
这里用到的是线性代数中的如下几个定理：
1.n阶矩阵A能与对角阵相似的充要条件是A有n个线性无关的特征向量.
2.实对称阵A的特征值都是实数.
3.实对称阵的不同特征值对应的特征向量一定是互相正交的.
4.实对称阵A的r重特征值λ一定有r个线性无关的特征向量.
可以参考线性代数或高等代数实对称矩阵相关章节.