不行.
反例：
A=
1 0
0 1
B=
1 1
0 1
它们秩都是2,特征值都是1,但B不能对角化,所以不相似.
相似的充要条件是两个矩阵有相同的Jondan标准型.
上例中：A是两个1阶Jondan块,B是一个2阶Jondan块,所以不相似.