1、依题意：2AB *AC=2bccosA=a^2-(b+c)^2
依据余弦定理：2bccosA=b^2+c^2-a^2,所以：bc=a^2-b^2-c^2
所以：cosA=(b^2+c^2-a^2)/(2bc)=(b^2+c^2-a^2)/(2(a^2-b^2-c^2))=-1/2
所以：A=2pai/3 (120度)
2、原式=2gen3(cosC/2)^2-sin(4pai/3-B)
=gen3(1+cosC)-sin(pai+pai/3-B)
因为：B+C=pai/3,所以：
原式=gen3+gen3cos(pai/3-B)+sin(pai/3-B)
=gen3+2((gen3/2)cos(pai/3-B)+(1/2)sin(pai/3-B))
=gen3+2sin(2pai/3-B)
=gen3+2sin(pai/3+B)
所以当pai/3+B=pai/2,即B=pai/6时,原式取最大值2+gen3,此时C=B=pai/6.