设母猴有x只，公猴就有（x-4）只，小猴就有[38-x-（x-4）]只，由题意得：
8x+（x-4）×10+[38-x-（x-4）]×5=266
              8x+10x-40-10x+210=266
                             8x=96
                              x=12
x-4=12-4=8
38-12-8=18（只）
答：母猴有12只，公猴有8只，小猴有18只．