由已知可得：OA^2=OB^2=OC^2=1.
3OA向量+4OB向量+5OC向量=0向量,
所以3OA向量=-4OB向量-5OC向量,
平方得：9 OA^2=16 OB^2+25 OC^2+40 OC·OB,
9=16+25 +40 OC·OB,
OC·OB=-4/5.
3OA向量+4OB向量+5OC向量=0向量,
所以4OB向量=-3OA向量-5OC向量,
平方得：16 OB^2=9 OA^2+25 OC^2+30 OC·OA,
16=9+25 +30 OC·OA,
OC·OA=-3/5.
∴OC向量·AB向量== OC·(OB -OA)
= OC·OB- OC·OA=-1/5.
选D.