sin^2 x=1-cos^2 x
cos2x=2cos^2 x-1
所以y=f(x)=2a-2acos^2 x-2acos^2 x-a+a+b
=-4acos^2 x+2a+b
因为定义域为[0,π/2],
所以0<=cosx<=1
所以0<=cos^2 x<=1
所以若a>0,则当cos^2 x=0时y最大值=2a+b=1
cos^2 x=1时,y最小值=-4a+2a+b=b-2a=-5
b=-2,a=3/2
若a<0,则当cos^2 x=1时y最大值=-4a+2a+b=b-2a=1
cos^2 x=0时,y最小值=2a+b=-5
b=-2,a=-3/2