设大船租了x条，那么小船租了（10-x）条，由题意得：
5x+3（10-x）=42，
       5x-3x=42-30，
          2x=12，
           x=6，
小船租了：10-6=4（条）；
答：他们租了6条大船，4条小船．