1.将ax+b代入f(x),得
(ax+b)^2+4(ax+b)+3
=(ax)^2+2abx+b^2+4ax+4b+3
=a^2x^2+(2ab+4a)x+b^2+4b+3
与2式做对比得
a^2=1
2ab+4a=10
b^2+4b+3=24
联合解得
a=1 b=3 或 a=-1 b=-7
所以5a-b=5*1-3=2 或 5a-b=5*(-1)-(-7)=2
综上 5a-b=2
2.f（x）+2f（1/x）=3x (1)
设1/x=x
f(1/x)+2f(x)=3/x (2)
(2)*2-(1)
3f(x)=6/x-3x
f(x)=2/x-x