-2a^2n*b*a^3m+1*b^n+m-1=-2a^(3m+2n+1)*b^(m+n)
5（a^3*b)^2*(a^2*b)=5a^6*b^2*a^2*b=5a^8*b^3
依题意-2a^(3m+2n+1)*b^(m+n)与5a^8*b^3是同类项,则
3m+2n+1=8
m+n=3
由这个一元二次方程组,可解得m=1,n=2
所以m^2+n^2-2mn=1+2^2-2*1*2=1