∵点（a，b）在圆x²+y²=1上，∴a²+b²=1．
f(x)=acos2x+bsinxcosx-

a

2

-1
=a•

1+cos2x

2

+

b

2

sin2x-

a

2

-1
=

1

2

(bsin2x+acos2x)-1
=

b2+a2

2

(

b

b2+a2

sin2x+

a

b2+a2

cos2x)-1
=

1

2

sin(2x+θ)-1，（tanθ=

a

b

）．
∴函数的最小正周期为

2π

2

=π，
当sin（2x+θ）=-1时，函数有最小值-

3

2

．
故选：B．