设函数f(x)=x^2+ax+b(a,b属于R),集合A={x|x=f(x)},B={x|x=f[f(x)]}.(1)证明A是B的子集.(2)当A={-1,3}时,求B
【解】
(1) A:即为f(x)=x的根.
B:即为f(f(x))=x的根.
若m为A的元素,则有f(m)=m,此时,f(f(m))=f(m)=m,因此a也是B中的元素.所以A中的元素都是B中的元素,即A是B的子集.
(2)
x=-1时：f(-1)=1-a+b=-1;
x=3时：f(3)=9+3a+b=3;
于是解二元一次方程组得：
a=-1,b=-3.
因而确定函数f(x)=x^2-x-3
则f(f(x))=(x^2-x-3)^2-(x^2-x-3)-3
=x^4-2x^3-6x^2+7x+9
令f(f(x))=x
则x^4-2x^3-6x^2+6x+9=0
分解因式(x+1)(x-3)(x^2-3)=0
即(x+1)(x-3)(x+√3)(x-√3)=0
所以有四个x的解属于集合B.
B={1,-3,√3,-√3}