F′(x)=3x2+2(k-1)x+(k+5),
因F(x)在区间(0,3)上不单调,
所以F′(x)=0在(0,3)上有实数解,且无重根,
由F′(x)=0得k(2x+1)=-(3x2-2x+5),
∴k=-
3x2−2x+5 |
2x+1 |
3 |
4 |
9 |
2x+1 |
10 |
3 |
令t=2x+1,有t∈(1,7),记h(t)=t+
9 |
t |
则h(t)在(1,3]上单调递减,在[3,7)上单调递增,
所以有h(t)∈[6,10),于是(2x+1)+
9 |
2x+1 |
得k∈(-5,-2],而当k=-2时有F′(x)=0在(0,3)上有两个相等的实根x=1,故舍去,
所以k∈(-5,-2);
故选:D.