矩形的对角线相等,且互相平分
∴AO=CO
所以方程有两个相等的实数根
∴4(m-1)²-4(m²+11)=0
解得m=-5
则方程为x²-12x+36=0
x=6
所以AC=12
另一直角边为根号119
所以矩形面积=5根号119