楼主的题目本身有问题,是不是把题目抄错了呀?第一个多项式应该是mx^2+2xy-x吧?
如果是的话：
(mx^2+2xy-x)-(3x^2-2nxy+3y)
=(m-3)x^2+(2-2n)xy-x-3y
因为不含二次项,所以：
m-3=0
2-2n=0
解得：
m=3
n=1
代入所求,有：
m^2-3n
=3^2-3×1
=9-3
=6