解
(a²+b²)×(a²+b²-1)=6
令a²+b²=t
则t(t-1)=6
即t²-t-6=0
(t-3)(t+2)=0
∴t=3
或t=-2
∵a²+b²=t>0
∴a²+b²=3