如右图所示，∠AOB=60°，AC=6，
∵四边形ABCD是矩形，
∴BD=AC=6，OA=OB，∠ABC=90°，
又∵∠AOB=60°，
∴△AOB是等边三角形，
∴∠ACB=90°-60°=30°，
在Rt△ABC中，AB=

1

2

AC=3，BC=sin60°•AC=

3

2

×6=3

3

，
∴S_矩形ABCD=AB×BC=3×3

3

=9

3

．
故答案是9

3

cm²．