a+b=√11
两边平方
a^2+2ab+b^2=11
a-b=√5
两边平方
a^2-2ab+b^2=5
两式相加
2(a^2+b^2)=16
a^2+b^2=8
相减可得ab=3/2
a+b=6,ab=8
所以a^2+2ab+b^2=36
a^2-2ab+b^2=36-32=4
所以(a-b)^2=4
a-b=±2
所以a^2-b^2
=(a-b)(a+b)
=±12