(1)
OA-n=(cosa,sina+根号5)
m垂直于(OA-n),有
(OA-n).m=2cosa+sina+根号5=0
即 2cosa+sina=-根号5
有：根号5*[(2/根号5)*cosa+(1/根号5)*sina]
=-根号5.
整理：sinc*cosa+cosc*sina=-1
sin(a+c)=-1 (1**)
其中角c:满足sinc=2/根号5,
cosc=1/根号5.
由(1**)并结合题设,得：a+c=-90度,
即a=c-90度.
由此：sina=-cosc=-1/根号5,
cosa=sinc=2/根号5
故:OA=(2/根号5,-1/根号5)
=(1/根号5)*(2,-1)
(2)可求得：cos(b-pai)=-cosb=(根号2)/10.
即cosb=(根号2)/10 (2**)
cos(2a-b)=cos2a*cosb+sin2a*sinb
而:cos2a=2*(cosa)^2-1=3/5,
sin2a=2*sina*cosa=-4/5
又求得sinb=7*根号2/10,
或 sinb=-7*根号2/10
故cos(2a-b)=
=(3/5)*(-根号2)/10)+(-4/5)*(7*根号2)/10
=-(31根号2)/50,
或：
cos(2a-b)=
=(3/5)*(-根号2)/10)+(-4/5)*(-7*根号2)/10
=25*(根号2)/50=(根号2)/2.
结论:cos(2a-b)=(根号2)/2,
或cos(2a-b)=-31*(根号2)/50.