设共有书为x:
因为要求是数学书在一起,可以把数学书看成一本,外文同理,但是在数学书里面又有3!不同排列,外文有2!排列.
所有数学在一起,外文也在一起的排列一共有（x-5+2)!×2!×3!
所有的书本排列有x!种
俩者一除,有(x-3)!×12/x!=1/28
得出12/x(x-1)(x-2)=1/28
有x(x-1)(x-2)=336
带入整数值可以得出x=8