答案B是错的,应该是C
但题目中的C写得也不对,应该是：
C(√3/3,1)U(1,√3)
数形结合：
b位于a的下方时,极限位置是：=π/12
即：b与x轴正向的夹角是π/6
此时,m=1*tan(π/6)=√3/3
b位于a的上方时,极限位置是：=π/12
即：b与x轴正向的夹角是π/3
此时,m=1*tan(π/3)=√3
但b在变化过程中,不能与a重合,即：m≠1
故：m∈(√3/3,1)U(1,√3)
----------------------------------
解析推导也可：
cos=a·b/(|a|*|b|)=(m+1)/(√2*√(m^2+1))
cos∈((√3+1)/(2√2),1)
(m+1)/(√2*√(m^2+1))0,故：m≠1
(m+1)/(√2*√(m^2+1))>(√3+1)/(2√2)
解得：√3/3