a（x³-x²+3x）+b（2x²+x）+x³-5=（a+1）x³+（2b-a）x²+（3a+b）x-5．
a+1=0，a=-1．
∴（a+1）x³+（2b-a）x²+（3a+b）x-5=-17，
（-1+1）x³+（2b+1）x²+[3×（-1）+b]x-5=-17，
（2b+1）x²+（b-3）x-5=-17，
（2b+1）×2²+（b-3）×2-5=-17，
10b-7=-17，
b=-1．
∴关于x的二次多项式a（x³-x²+3x）+b（2x²+x）+x³-5
=（2b+1）x²+（b-3）x-5
=[2×（-1）+1）x²+（-1-3）x-5
=-x²-4x-5
=-（-2）²-4×（-2）-5
=-1．
故答案为：-1．