A的特征值为1,-1,3,
而B=A³-5A²,
所以B的3个特征值分别为：
1³-5×1²= -4,
(-1)³-5×(-1)²= -6,
3³-5×3²= -18
所以B的行列式的值就等于这3个特征值的连乘积,
即 |B| =(-4)*(-6)*(-18)
= -432