你确定没打错?是3b^2吧,如果是3b^2的话,
原式=3(a^2-5/3ab+b^2)
=3(a^2+2ab+b^2-11/3ab)
=3((a+b)^2-11/3ab)
再代入数字即可,a+b可消去根号,ab用平方差公式.