∵∠BEF=90°
∴∠FEC+∠BED=90°
∵∠BED+∠EBD=90°
∴∠FEC=∠EBD
∠C=∠D=90°
∴△△FEC∽EBD(AAA)
设BD=x
∴CE/x=3/4
∴CE=3x/4
∵ABCD是正方形
∴CD=x
∴DE=x-3x/4=x/4
在直角△EBD中
x²+(x/4)²=4²
x²=256/17
∴S正方形ABCD=x²=256/17