（1）f（x）=x²-x-3，由x²-x-3=x，
解得x=3或x=-1，所以所求的不动点为-1或3．
（2）令ax²+（b+1）x+b-1=x，则ax²+bx+b-1=0①
由题意，方程①恒有两个不等实根，所以△=b²-4a（b-1）＞0，
即b²-4ab+4a＞0恒成立，
则△'=16a²-16a＜0，故0＜a＜1
（3）设A（x₁，x₁），B（x₂，x₂）（x₁≠x₂），g(x)＝−x+

a

5a2−4a+1

，
又AB的中点在该直线上，所以

x1+x2

2

＝−

x1+x2

2

+

a

5a2−4a+1

，
∴x1+x2＝

a

5a2−4a+1

，
而x₁、x₂应是方程①的两个根，所以x1+x2＝−

b

a

，即−

b

a

＝

a

5a2−4a+1

，
∴b＝−

a2

5a2−4a+1

=-

1

( 1 a )2−4( 1 a )+5

=-

1

( 1 a −2)2+1

∴当a=

1

2

∈（0，1）时，b_min=-1