根据题意得：a²+2kab+b²-6ab=a²+（2k-6）ab+b²，
由和不含ab项，得到2k-6=0，即k=3，
故答案为：3