x+y-2是二元二次式x^2+axy+by^2-5x+y+6的一个因式
则当x+y-2=0时,必有x^2+axy+by^2-5x+y+6=0
令x=y=1,得:x+y-2=0
x^2+axy+by^2-5x+y+6=1+a+b-5+1+6=0
a+b+3=0-----------(1)
再令x=3,y=-1,得x+y-2=0
9-3a+b-15-1+6=0
b-3a-1=0--------(2)
联立(1),(2),解得:
a=-1
b=-2
以上即为所求