5(m+n)(m-n)-2(m+n)^2-3(m-n)^2
=5(m^2-n^2)-2(m^2+2mn+n^2)-3(m^2-2mn+n^2)
=5m^2-5n^2-2m^2-4mn-2n^2-3m^2+6mn-3n^2
=(5-2-3)m^2+(-5-2-3)n^2+(-4+6)mn
=-10n^2+2mn