∵a³b+ab³-2a²b+2ab²=7ab-8，
⇒ab（a²+b²）-2ab（a-b）=7ab-8，
⇒ab（a²-2ab+b²）-2ab（a-b）+2a²b²-7ab+8=0，
⇒ab（a-b）²-2ab（a-b）+2a²b²-7ab+8=0，
⇒ab[（a-b）²-2（a-b）+1]+2（a²b²-4ab+4）=0，
⇒ab（a-b-1）²+2（ab-2）²=0，
∵a、b均为正数，
∴ab＞0，
∴a-b-1=0，ab-2=0，
即a-b=1，ab=2，
解方程

a−b＝1 ab＝2

，
解得a=2、b=1，a=-1、b=-2（不合题意，舍去），
∴a²-b²=4-1=3．
故选B．