把a=1，b=-2代入ax+ay-b=7，得
x+y=5，
∴x²+2xy+y²-1
=（x+y）²-1
=5²-1
=24．
故答案为：24．