a-2的绝对值+b+1的绝对值等于0,
则a-2=0,b+1=0,
所以a=2,b=-1,
所以5ab的平方-{2a的平方b-[3ab的平方-（4ab的平方+2ab的平方）】}
=5ab的平方-{2a的平方b-[3ab的平方-6ab的平方】}
=5ab的平方-{2a的平方b-[-3ab的平方】}
=5ab的平方-{2a的平方b+3ab的平方}
=5ab的平方-2a的平方b-3ab的平方
=2ab的平方-2a的平方b
=2ab(b+a)
=-4.