x=-1时：f(-1)=1-a+b=-1;
x=3时：f(3)=9+3a+b=3;
于是解二元一次方程组得：
a=-1,b=-3.
因而确定函数f(x)=x^2-x-3
则f(f(x))=(x^2-x-3)^2-(x^2-x-3)-3
=x^4-2x^3-6x^2+7x+9
令f(f(x))=x
则x^4-2x^3-6x^2+6x+9=0
分解因式(x+1)(x-3)(x^2-3)=0
即(x+1)(x-3)(x+√3)(x-√3)=0
所以有四个x的解属于集合B.
B={1,-3,√3,-√3}