用二倍角公式先化简
f(x)=cosx^2-2sinxcosx-sinx^2=cos2x-sin2x
= √2cos(2x+π/4)
令2kπ<2x+π/4<2kπ+π
所以kπ-π/8所以单调减区间是 (kπ-π/8,kπ+3π/8),k∈Z
同理解得单调增区间是(kπ+3π/8,kπ+7π/8),k∈Z
因为X∈[0,2\π]
所以F(X)最大值=f(0)=1
F(X)最小值=f(8\3π)=-√2