增广矩阵
1 1 1 2
1 2 a -1
2 3 0 b
r2-r1,r3-2r1
1 1 1 2
0 1 a-1 -3
0 1 -2 b-4
r1-r3,r2-r3
1 0 3 6-b
0 0 a+1 1-b
0 1 -2 b-4
a≠-1时方程组有唯一解
a=-1,b≠1时方程组无解
a=-1,b=1时
1 0 3 5
0 0 0 0
0 1 -2 -3
通解为:(5,-3,0)^T+k(-3,2,1)^T