∵函数f（x）=2asin²x-2

3

asinxcosx+a+b=a（1-cos2x）-

3

asin2x+a+b=-2asin（2x+

π

6

）+2a+b，
又x∈[0，

π

2

]，∴

π

6

≤2x+

π

6

≤

7π

6

，-

1

2

≤sin（2x+

π

6

）≤1．
当a＞0时，有

3a+b＝1 b＝−5

，解得 a=2，b=-5．
当a＜0时，有

b＝1 3a+b＝−5

，解得 a=-2，b=1．
综上可得，当a＞0时，a=2，b=-5； 当a＜0时，a=-2，b=1．