设⊙O的半径为r cm，连接OE，OF，则正四边形OECF为正方形；
∵BE=BD=3，AF=AD=5，
∴BC=r+3，AC=5+r；
∵在Rt△ABC中，∠C=90°，BC²+AC²=AB²，
即（r+3）²+（5+r）²=（5+3）²，
∴r=-4+

31

，
∴AC=1+

31

，BC=-1+

31

，
∴S_△ABC=

1

2

AC•BC=15cm²．