y=(cosx)^2-asinx+b=-(sinx)^2-asinx+b+1
=-(sinx+a/2)^2+(a/2)^2+b+1
设sinx=t,则y=-(t+a/2)^2+(a/2)^2+b+1,-1≤t≤1.
下面分两种情况讨论:
(1)当a≥2时,对称轴t=-a/2在t=-1左侧,因而t=-1时取最大值,t=1时取最小值,
所以,a+b=0,-a+b=-4,解得:a=2,b=-2.
(2)当0＜a＜2时,对称轴t=-a/2在t=-1与t=0之间,因而t=-a/2时取最大值,t=1时取最小值,
所以,(a/2)^2+b+1=0,-a+b=-4,解得:a=2,b=-2.这不符合前提0＜a＜2.
综合得:a=2,b=-2.