x^2+y^2=1上的两个点
|OA|=|OB|=1
设∠AOB=a

△AOB面积=1/2*|OA|*|OB|*sina=1/2*1*1*sina=1/2*sina
∴a=90°时,有最大值
∠AOB=90°
不妨设A(0,1),B(1,0)
P在线段AB上
设P(x,1-x).(0<=x<=1)
向量AO=(0,-1)

向量AP=(x,-x)

向量AO*向量AP-向量AP^2

=x-2x^2
=-2x^2+x
对称轴是x=1/4
∴x=1/4时有最大值=1/8