F′(x)=3x2+2(k-1)x+(k+5),
因F(x)在区间(0,3)上不单调,
所以F′(x)=0在(0,3)上有实数解,且无重根,
由F′(x)=0得k(2x+1)=-(3x2-2x+5),
∴k=-
| 3x2−2x+5 |
| 2x+1 |
| 3 |
| 4 |
| 9 |
| 2x+1 |
| 10 |
| 3 |
令t=2x+1,有t∈(1,7),记h(t)=t+
| 9 |
| t |
则h(t)在(1,3]上单调递减,在[3,7)上单调递增,
所以有h(t)∈[6,10),于是(2x+1)+
| 9 |
| 2x+1 |
得k∈(-5,-2],而当k=-2时有F′(x)=0在(0,3)上有两个相等的实根x=1,故舍去,
所以k∈(-5,-2);
故选:D.
