（1）a-b=(cosα,sinα)-（cosβ,sinβ)=(cosα-cosβ,sinα-sinβ)
|a-b|^2=(cosα-cosβ)^2+(sinα-sinβ)^2=4/5
展开后cosαcosβ+sinαsinβ=3/5
即cos(α-β)=3/5
（2）由0＜α＜π/2,-π/2＜β＜0,且sinβ=-5/13可得cosβ=12/13
再由cosα^2+sinα^2=1可求出答案