令a=x²+3x,b=x+y
则方程组化为：
ab=40
a+b=14
故a,b为方程t²-14t+40=0的两个根,解得a,b=4,10
所以x²+3x=4,x+y=10,解得：x1=-4,x2=1; y1=14,y2=9;
或x²+3x=10,x+y=4,解得：x3=-5,x4=2;y3=9,y4=2.
共有以上4组解.