f(x)=ax/(2x+3)
f[f(x)]=a[ax/(2x+3)]/[2ax/(2x+3)+3]=x
a[ax/(2x+3)]/[2ax/(2x+3)+3]=x
左边上下乘2x+3
a^2x/(2ax+6x+9)=x
a^2x=2ax^2+6ax^2+9x
(a^2-9)x=(2a+6)x^2
(a+3)(a-3)x=2(a+3)x^2
(a+3)[(a-3)x-2x^2]=0
此式恒等,因为x不是恒等于0
所以(a-3)x-2x^2=0不是恒成立
所以a+3=0
a=-3