解a-b=3两边平方得：a²-2ab+b²=9∵a²+b²=17∴17-2ab=9∴2ab=8∴ab=4∴a³b-2a²b²+ab³=ab(a²-2ab+b²)=ab(a-b)²=4×3²=4×9=36