证明：B=A^2-2A+2E=A^2-2A+A^3=A(A-2E+A^2)=A(A+2E)(A-E)
由于A^3=2E,所以A的所有特征值的三次方都等于2,所以0,-2,1都不是A的特征值,所以|A|,|A+2E|,|A-E|都不为0,所以A,A+2E,A-E均可逆,所以B可逆.
假设aA^2+bA+c是B的逆,则(A^2-2A+2E)(aA^2+bA+c)=E,展开得
aA^4+(b-2a)A^3+(c-2b+2a)A^2+(2b-2c)A+2cE=E,带入A^3=2E,得
(c-2b+2a)A^2+(2a+2b-2c)A+(2b-4a+2c-1)E=0,观察知
a=1/10,b=3/10,c=2/5满足上式,所以(1/10)A^2+(3/10)A+(2/5)E是B的逆.