3x²-2xy-y²=0
(x-y)(3x+y)=0
x=y或y=-3x
把y=x代入x²+y²=40
得 2x²=40
x²=20
x=±2√5
∴y=±2√5
把y=-3x代入x²+y²=40
得 10x²=40
x²=4
x=±2
∴y=±6
∴﹛x1=2√5,y1=2√5,﹛x2=-2√5,y2=-2√5,﹛x3=2,y3=6,﹛x4=-2,y4=-6是原方程组的解