f=x1^2+2x1x2+2x2x3-4x1x3
= (x1+x2-2x3)^2-x2^2-4x3^2+6x2x3
= (x1+x2-2x3)^2-(x2-3x3)^2+5x3^2
= y1^2-y2^2+5y3^2
Y=CX,C=
1 1 -2
0 1 -3
0 0 1
C^-1=
1 -1 -1
0 1 3
0 0 1
所用变换为 X=C^-1Y老师，这个可以直接推X=CY嘛？让x1=y1-y2-y3,x2=y2+3y3,x3=y3.这样可以吗？你计算有误y1=x1+x2-2x3y2=x2-3x3y3=x3得x1=y1-y2-r3x2=y2+3y3x3=y3可由此直接得C嗯嗯，发现错了，嘿嘿，谢谢老师！