∵函数y的定义域是R,
∴mx^2-6mx+m+8≥0
∴△=(-6m)^2-4m(m+8)＜0
即36m^2-4m^2-32m＜0
即32m^2-32m＜0
即m(m-1)＜0
∴m＜0或m＞1