[(5xy^2(x^2-3xy)-(-3x^2y)^2]/2x^2y^2
=[5x^3y^2-15x^2y^3-9x^4y^2]/2x^2y^2
=5x^3y^2/2x^2y^2-15x^2y^3/2x^2y^2-9x^4y^2/2x^2y^2
=2.5x-7.5y-4.5x^2