2x²+ax-y+6-

1

2

bx²+503x-5y-1=（2-

1

2

b）x²+（a+503）x-6y+5，
根据题意得：2-

1

2

b=0，a+503=0，即a=-503，b=4，
∵A=4a²-ab+4b²，B=3a²-ab+3b²，
∴4A+[（2A-B）-3（A+B）]=4A+2A-B-3A-3B=3A-4B=3（4a²-ab+4b²）-4（3a²-ab+3b²）=12a²-3ab+12b²-12a²+4ab-12b²=ab，
当a=-503，b=4时，原式=-2012．