根据余弦定理有：
a²=b²+c²-2bc*cosA
又因为abc为等比数列,所以b²=ac
将两个关系代入题中的等式,有
b²+c²-2bc*cosA=b²-bc
化简得,c²=2bc*cosA-bc,即c=b*(2cosA-1)
所以,等比所列的公比为q=c/b=2cosA-1,
所以,b=a*(2cosA-1),c=a*(2cosA-1)²
代入余弦公式有,
a²=a²(2cosA-1)²+a²(2cosA-1)^4-2a²(2cosA-1)³*cosA
化简得,8cos³A-16cos²A+10cosA-1=0
又,2cosA-1>0,即cosA>1/2
解三次方程的实根,应该在1/10与1/8之间,显然不符合题意,所以我怀疑题目有误.
有可能是等差数列