利用待定系数法
先将前三项关于x,y的式子因式分解
x^2-2xy-3y^2=(x-3y)(x+y)
又因为Ax²+Bxy+Cy²+Dx+Ey+F必能分解成
(a1x+b1y+c1)(a2x+b2y+c2)的形式
所以原式=(x-3y+A)(x+y+B)
把(x-3y+A)(x+y+B)展开
（待定系数法中有一公式,就是a1^n+a2^n-1+……+an-1^1+an^0若与b1^n+b2^n-1+……+bn-1^1+bn^0恒等,那么它各次项系数对应相等,即a1=b1,a2=b2,……,an=bn)
按照你的题目,解方程组
A+B=3
A-3B=-5
AB=K
解得A=1,B=2
所以K=2
你可以验算一下!