5(3a^2-ab^2)-(ab^2+3a^2b)
=15a^2-5ab^2-ab^2-3a^2b
=15a^2-6ab^2-3a^2b