y=sin²x+2sinxcosx-3cos²x
=(sin²x+cos²x)+2sinxcosx -4cos²x
=1+sin(2x)-2[1+cos(2x)]
=1+sin(2x)-2-2cos(2x)
=sin(2x)-2cos(2x) -1
=√5sin(2x+φ) -1 其中,tanφ=-2
最小正周期Tmin=2π/2=π
当sin(2x+φ)=1时,y有最大值ymax=√5-1.