∵a，b是关于x的一元二次方程x²-2x+t-1=0的两个非负实根，
∴可得a+b=2，ab=t-1≥0，
∴t≥1，
又△=4-4（t-1）≥0，可得t≤2，
∴2≥t≥1，
又（a²-1）（b²-1）=（ab）²-（a²+b²）+1=（ab）²-（a+b）²+2ab+1，
∴（a²-1）（b²-1），
=（t-1）²-4+2（t-1）+1，
=t²-4，
又∵2≥t≥1，
∴0≥t²-4≥-3，
故答案为：-3．