设M（x,y）A(x1,y1）B(x2,y2）OA的斜率为k（k≠0）
则OB的斜率为-1/k
OA所在的直线方程为y=kx
代入y^2=2px
得x1=2p/k^2,y1=2p/k
即A（2p/k^2,2p/k）
所以向量OA=（2p/k^2,2p/k）
OB所在直线为y=-x/k
代入y^2=2px
得x2=2pk^2,y2=-2pk
即B（2pk^2,-2pk）
所以向量OB=（2pk^2,-2pk）
因为向量OM=向量OA+向量OB=(2p/k^2+2pk^2,2p/k-2pk）
所以x=2p（1/k-k)^2+4p(1)
y=2p（1/k-k)(2)
由（2）得1/k-k=y/2p,代入（1）得
x=2p（y/2p)^2+4p
所以y^2=2p（x-4p）(p>0)
所以M的轨迹方程为y^2=2p（x-4p）(p>0)