f(x)=2(cosx)^2+√3 (sin2x）
=1+2sin[2x+(π/6)].
（1）∵x∈[0,π],
∴2x+(π/6)∈[π/6,13π/6],
∴递增区间[0,π/6]和[2π/3,π].
（2）y=sinx的图象
横向缩小1/2,
解析式变为y=sin2x;区间[a,b]变为[a/2,b]；
再向左平移π/6,
解析式变为y=sin(2x+π/6);[a/2,b]变为[(a/2)-π/6,b]；
再纵向扩大2倍,
解析式变为y=2sin(2x+π/6);[(a/2)-π/6,b]变为[(a/2)-π/6,2b]；
最后向上平移1个单位,
解析式变为y=2sin(2x+π/6)+1；
[(a/2)-π/6,2b]变为[(a/2)-π/6,2b+1]；
(a/2)-π/6=0且2b+1=π,
∴a=π/3,b=(π-1)/2.
(3)∵f(x)的最大值为3,∴3k≤2,∴k≤2/3.
∵f(x)的最小值为1,∴-k＞-3,∴k＜3,
∴k≤2/3.