解法一：

如图.设正方形边长为x.
对三角形面积列等式：BC*AH/2=S黄+S绿+S正方形
即：60×40/2=x(40-x)/2+x(60-x)/2+x^2
整理得：x=24
 
解法二：

如图.设正方形边长为x.
想象将三角形白色部分翻折到绿色和黄色,构成2个矩形,灰色正方形是2个矩形的重叠部分.
S三角形ABC=(S矩形B'BCC'+S矩形E'EFF')/2
即：60*40/2=(40x+60x)/2
整理得：x=24