作AH⊥BC于H,交GF于K,则AH=BH=AB/√2=√2,设正方形边长为X
∵△AGF∽△ABC,∴AK/AH=GF/BC===>(√2-X)/√2=X/2
∴X=2√2-2
∴正方形的面积=X²=12-8√2