x²-3xy+2y²=0
(x-y)(x-2y)=0
x=y或x=2y
x=y代入方程x²+y²=20得2y²=20 y²=10
x=y=√10或x=y=-√10
x=2y代入方程x²+y²=20得5y²=20 y²=4
y=2或y=-2
y=2时,x=4；y=-2时,x=-4
综上,得方程组的解共4组：
x=√10 y=√10
x=-√10 y=-√10
x=4 y=2
x=-4 y=-2