a^2b^2-a^2-b^2-4ab+1
=a^2b^2-2ab+1-a^2-b^2-2ab
=(ab-1)^2-(a+b)^2
=(ab-1+a+b)(ab-1-a-b)