∵ x^3-2x^2+ax-6与x^3+5x^2+bx+8有相同的二次公因式
∴ 设x^3-2x^2+ax-6=（x^2+kx+m）(x+n)=x^3+(k+n)x^2+(m+n)x+mn
x^3+5x^2+bx+8=（x^2+kx+m）(x+L)=x^3+(k+L)x^2+(m+L)x+mL
则有 k+n=-2 (1)
m+n=a (2)
mn=-6 (3)
k+L=5 (4)
m+L=b (5)
mL=8 (6)
将（3）代入（1）得 k-6/m=-2
将（6）代入（4）得 k+8/m=5
解得 m=2,k=1,L=4,n=-3
故 a=-1,b=6