用算子求特
1/(D^2-2D-3)*6e^(3x)
=1/(D-3)*6e^(3x)*1/4
=(3/2)e^(3x)*1/D*1
=(3x/2)e^(3x),
易知y''-2y'-3y=0的通解是c1e^(-x)+c2e^(3x),
∴所求通解是y=c1e^(-x)+c2e^(3x)+(3x/2)e^(3x).能用一般的方法解下不，算子的没学，不怎么明白 谢谢设特解为y=(ax+b)e^(3x),则
y'=(a+3ax+3b)e^(3x),
y''=(3a+3a+9ax+9b)e^(3x),
代入原方程，两边都除以e^(3x),得
6a+9ax+9b-2(a+3ax+3b)-3(ax+b)=6,
整理得4a=6,a=3/2,取b=0,
∴特解y=(3x/2)e^(3x).