f'(x)=-x²+2bx-3a²
在x=a处取得极值则f'(a)=0
所以-a²+2ab-3a²=0
ab=2a²
a=0或b=2a
a=0
f(x)=-1/3x³
f'(x)=-x²<=0,是减函数,没有极值
所以b=2a
所以f(x)=-1/3x³+2ax²-3a²x