a^2+ab=20
b^2+ab=16
a^2+b^2+ab+ab=(a+b)^2=36
a+b=-6 或 a+b=6
a^2+ab=a(a+b)=6a 或 -6a
得 a=10/3 或 a=-10/3
b^2+ab=b(a+b)=6b或 -6b
得 b=-8/3 或 b=8/3
ab=80/9 或 ab=-80/9
所以 a^2+b^2=(a+b)^2-2ab=36+160/9=484/9
或 a^2+b^2=(a+b)^2-2ab=36-160/9=164/9