解y=5cos²x+3sin²x-2sinxcosx
=3cos²x+3sin²x+2cos²x-2sinxcosx
=3+2cos²x-2sinxcosx
=3+1+cos2x-sin2x
=cos2x-sin2x+4
=√2（√2/2cos2x-√2/2sin2x）+4
=√2cos（2x+π/4）+4
由x∈【0,π/2】
即0≤x≤π/2
即0≤2x≤π
即π/4≤2x+π/4≤5π/4
即当2x+π/4=π/4时,y有最大值为√2×√2/2+4=5
当2x+π/4=π时,y有最大值为√2×（-1）+4=4-√2.两个都是最大值？？？最小值呢最后一点写错了是当2x+π/4=π/4时，y有最大值为√2×√2/2+4=5当2x+π/4=π时，y有最小值为√2×（-1）+4=4-√2.