syms x y
>> factor(x^2+x*y-6*y^2-6*x+2*y+8)
ans =
(x+3*y-4)*(x-2*y-2)
计算机编程解得.过程你自己想想吧!
保证结果正确.