a^2 + 1/ab + 1/a(a-b) = [a^2 - ab + 1/a(a-b)] + (ab + 1/ab)
因为a>b>0,所以a(a-b)>0,a^2 - ab + 1/a(a-b) >= 2
ab + 1/ab >= 2
等号当且仅当a(a-b)=1且ab=1即a=√2,b=√2/2时取到
所以最小值=2+2=4