∵集合A={1，a，b}，B={a，a²，ab}，且A=B，
∴a≠1
则1=a²且b=ab，或1=ab且b=a²，
若1=a²且b=ab，则a=-1，b=0，
此时A=B={-1，0，1}满足条件；
若1=ab且b=a²，则a=b=1不满足条件，
综上所述：a=-1