显然x>0
先对f(x)求导f'(x)=2ax+1/x-(a+2)
令f'(x)=0有2ax^2-(a+2)x+1=0，即x^2-(1/2+1/a)+1/2a=(x-1/2)(x-1/a)=0
解得x=1/2或x=1/a

注意到f(1)=a*1^2-(a+2)*1-ln1=-2

当a=2即1/a=1/2时，f'(x)>0恒成立，则f(x)递增

而此时区间[1，e]上函数也递增，最大值fmax=f(e)>f(1)=-2，显然a=2不符合要求

当a>2即0<1/a<1/2时

区间(0,1/a)上f'(x)>0，则f(x)递增

区间(1/a,1/2)上f'(x)<0，则f(x)递减

区间(1/2,+∞)上f'(x)>0，则f(x)递增

可见，f(1/a)取得极大值，f(1/2)取得极小值

而此时区间[1，e]上函数递增，最大值fmax=f(e)>f(1)=-2，显然a>2也不符合要求

当0<a<2即1/a>1/2时

区间(0,1/2)上f'(x)>0，则f(x)递增

区间(1/2,1/a)上f'(x)<0，则f(x)递减

区间(1/a,+∞)上f'(x)>0，则f(x)递增

可见，f(1/2)取得极大值，f(1/a)取得极小值

• 当1/2<1/a≤1即1≤a<2时，区间[1，e]上函数递增，最大值fmax=f(e)>f(1)=-2，不符合要求

• 当1<1/a≤e即1/e≤a<1时，区间[1，e]上函数无单调，最大值fmax=max{f(1),f(e)}。若要使最大值为f(1)=-2，则有f(e)≤f(1)，即ae^2-(a+2)e+1≤-2，即a≤(2e-3)/(e^2-e)。显然1/e<(2e-3)/(e^2-e)<1，也就是说当1/e≤a≤(2e-3)/(e^2-e)时函数f(x)在区间[1，e]上取得最大值-2。

• 当1/a>e即0<a<1/e时，区间[1，e]上函数递减，最大值fmax=f(1)=-2，符合要求。

   

综上，符合要求的a的取值范围为0<a<1/e或1/e≤a≤(2e-3)/(e^2-e)，即0<a≤(2e-3)/(e^2-e)