√3×tanAtanB-tanA-tanB=√3
∴tanA+tanB=-√3(1-tanAtanB)
∴tan(A+B)=(tanA+tanB)/(1-tanAtanB)=-√3
∴tanC=tan[π-(A+B)]=-tan(A+B)=√3
∴C=π/3
c=2
cosC=(a²+b²-c²)/(2ab)=(a²+b²-4)/(2ab)=1/2
即a²+b²-4=ab
∵a、b>0
∴ab≤(a²+b²)/2
∴a²+b²-4=ab≤(a²+b²)/2
设a²+b²=t>0
∴t-4≤t/2
t≤8
∴a²+b²∈(0,8]