∵齐次方程y''-2y'-3y=0的特征方程是r^2-2r-3=0,则r1=-1,r2=3
∴此齐次方程的通解是y=C1e^(-x)+C2e^(3x)(C1,C2是常数)
∵设原方程的解为y=(Ax+B)e^(2x)
代入原方程,化简得
-3Axe^(2x)+(2A-3B)e^(2x)=-xe^(2x)
==>-3A=-1,2A-3B=0
==>A=1/3,B=2/9
∴y=(x/3+2/9)e^(2x)
故原方程的通解是y=C1e^(-x)+C2e^(3x)+(x/3+2/9)e^(2x).