（1）f(x)＝2cosx•cosx−2

3

sinx•cosx=1−(

3

sin2x−cos2x)=1−2sin(2x−

π

6

)（2分）
由2kπ+

π

2

≤2x−

π

6

≤2kπ+

3π

2

，k∈Z得kπ+

π

3

≤x≤kπ+

5

6

π，k∈Z，
又[0，

π

2

]∴单调增区间为[

π

3

，

π

2

]．（4分）
由−

1

2

≤sin(2x−

π

6

)≤1∴-1≤f（x）≤2∴f（x）∈[-1，2]（6分）
（2）∵f（A）=-1，∴A＝

π

3

，（8分）
又S＝

1

2

×1×c×sin600＝

3

，∴c=4（10分）
由余弦定理得a²=b²+c²-2bccosA=13a＝

13

（12分）