介绍一个引理:设G是△ABC的重心,则MA²+MB²+MC² = GA²+GB²+GC²+3MG².
用向量法的证明最简单,作为向量有MA = MG+GA,MB = MG+GB,MC = MG+GC.
于是MA²+MB²+MC² = GA²+GB²+GC²+3MG²+2MG·(GA+GB+GC) = GA²+GB²+GC²+3MG².
其中用到G是重心,故GA+GB+GC = 0.
由上面结论,GA²+GB²+GC² ≤ MA²+MB²+MC² = 4.
而AB²+BC² = GA²+GB²+GC²+3GB² = GA²+4GB²+GC².
同理BC²+CA² = GA²+GB²+4GC²,CA²+AB² = 4GA²+GB²+GC².
相加得AB²+BC²+CA² = 3(GA²+GB²+GC²) ≤ 12.
由均值不等式,AB²*BC²*CA² ≤ ((AB²+BC²+CA²)/3)³ ≤ 64.
故AB*BC*CA ≤ 8.
又易见△ABC等边且M为其中心时,等号成立.
因此AB*BC*CA的最大值就是8.