根据题意列得：（mx²+2xy-x）-（3x²-nxy+3y）=mx²+2xy-x-3x²+nxy-3y=（m-3）x²+（n+2）xy-x-3y，
∵结果中不含二次项，
∴m-3=0，n+2=0，
解得：m=3，n=-2，
则m²-2mn-2n²=9+12-8=13．