题目中 A*A 是A^2 吧.
设f(x) = x^2-2*x+3
则 f(1)=2,f(2)=3,f(3)=6.
因为 A 的特征值是 1,2,3
所以 A^2-2A+3E 的特征值为 2,3,6
所以 |A^2-2A+3E | = 2*3*6 = 36.