y=√(mx²-6mx+m+8)的定义域是R
∴mx²-6mx+m+8≥0恒成立
m=0不等式即8≥0,符合题意
m≠0时,不等式为二次不等式,
恒成立的条件是
m>0且Δ=36m²-4m(m+8)≤0
∴ m²-m≤0
∴0综上,m的取值范围是【0,1】

t=mx²-6mx+m+8
m=0时,t=8,y=2√2
0t=mx²-6mx+m+8
=m(x²-6x+9)+8-8m
=m(x-3)²+8-8m
∴x=3时,tmin=8-8m
(m=0时也成立）
∴f(m)=√(8-8m)
∴m=0时,f(m)max=2√2
m=1时,f(m)min=0
∴f(m)的值域为[0,2√2]