依题设长方形的长为a,宽为b,则正方形的边长为（a-5）或（b+3）.依题列方程
a-5=b+3 (1)
a*b=0.8*(a-5)(b+3) (2)
联合(1)和(2)可解得:a=10,b=2,所以正方形的边长为5CM