令x=a²+b²
则(x+1)(x-3)=5
x²-2x-8=0
(x+2)(x-4)=0
x=-2,x=4
因为x=a²+b²≥0
所以a²+b²=4