解由F(x)=f²(x)-f(x²)
知1≤x^2≤16且1≤x≤16
解得1≤x≤4
故函数F(x)的定义域为[1,4]
故F(x)=f²(x)-f(x²)
=[log2(x)]^2-log2(x^2)
=[log2(x)]^2-2log2(x)
令t=log2(x),由x属于[1,4]
知t属于[0,2]
故函数F(x)=f²(x)-f(x²)
换为y=t^2-2t=(t-1)^2-1 t属于[0,2]
故当t=1时,y有最小值-1
当t=0或t=2有最大值0
故函数F(x)的值域为[-1,0].