当三个力作用在同一直线、同方向时，三个力的合力最大，即F=6N+8N+3N=17N．
当三个力作用在一个物体上，不在一条直线，并且夹角可以改变，3N能在5N与8N最大与最小之间，所以能使物体处于静止状态，故此时三个力的合力为零，即它们合力的最小值为0．
故选：D．