设长方体的长（长和宽相等）为a分米，长方体的高为h分米，
由表面积公式得：
a×a×2+a×h×4=266，利用乘法分配律
  2（a×a+2ah）=266，
 2（a×a+2ah）÷2=266÷2，
       a×a+2ah=133，
        a（a+2h）=133，
把133分解质因数133=7×19，19=7+2×6，
所以，a=7，h=6．
这个纸箱的容积是：
7×7×6=294（立方分米）．
答：这个纸箱的容积是294立方分米．