（1）证明：如右图所示,
∵AM⊥MN,
∴∠AMB+∠NMC=90°,
又∵四边形ABCD是正方形,
∴∠B=∠C=90°,
∴∠BAM+∠AMB=90°,
∴∠NMC=∠MAB,
∴△ABM∽△MCN；
（2）∵△ABM∽△MCN,
∴AB：BM=CM：CN,
∴CN=x(4-x)4,
∴S四边形ABCN=12×（4+x(4-x)4）×4=9,
解得x1=2+2,x2=2-2,
故x=2+2或x=2-2；
（3）∵△ABM∽△AMN,
∴AB：CM=AM：MN,又MB=x,
AM=42+x2,
MN=MC2+NC2=(4-x)2+[x(4-x)4]2
42+x2：(4-x)2+[x(4-x)4]2=44-X,
∴4：x=42+x2：(4-x)2+[x(4-x)4]2,
4(4-x)2+[x(4-x)4]2=x42+x2,
16[（4-x）2+x2(4-x)216]=x2（16+x2）,
（4-x）2（16+x2）=x2（16+x2）,
16-8x=0,
解得x=2．