∵y''-3y'+2y=0的特征方程是r²-3r+2=0,则r1=1,r2=2
∴y''-3y'+2y=0的通解是y=C1e^x+C2e^(2x) (C1,C2是积分常数)
设y''-3y'+2y=xe^(2x)的特解是y=(Ax²+Bx)e^(2x)
把它代入y''-3y'+2y=xe^(2x)整理得(2Ax+B)e^(2x)+2Ae^(2x)=xe^(2x)
==>2Ax+B+2A=x
比较同次幂系数得A=1/2,B=-1
∴y''-3y'+2y=xe^(2x)的特解是y=(x²/2-x)e^(2x)
故原方程的通解是y=C1e^x+C2e^(2x)+(x²/2-x)e^(2x) (C1,C2是积分常数).