方程（b^2-1）x=3 无解
得b=正负1 0x=3（无解）
方程组ax-y=1 （1）,3x-2y=b-5（2）
（2）-（1）*2
（3-2a) x=b-7=-6或-8 无解
得a=3/2 0x=-6或-8 (无解）
所以当 a=3/2 ,b=1或-1时
方程（b^2-1）x=3与方程组ax-y=1,3x-2y=b-5都无解