如图所示：连接CO，过点O，作OE⊥CD于点E，
四边形AMNB是正方形，⊙O切AB于点C，△CFD是⊙O的内接正三角形，
∵圆的外切正方形的边长为a，
∴CO=BC=

a

2

，∠COE=30°，
∴CE=

a

2

•cos30°=

3 a

4

，
∴这个圆的内接正三角形的边长为：2EC=

3 a

2

．
故答案为：

3 a

2

．