a^2*(b-1)+b^2-b^3
=a^2b-a^2+b^2-b^3
=b(a^2-b^2)-(a^2-b^2)
=(b-1)(a^2-b^2)
=(b-1)(a+b)(a-b)