△=[-2(m-1)]²-4m×3(m-1)
=4m²-8m+4-12m²+12m
=-8m²+4m+4
-8m²+4m+4﹥0 两边同时除以-4
2m²-m-1﹤0
(m-1)(2m+1)﹤0
(m-1)与(2m+1)异号
m-1﹥0 且 2m+1﹤0 此时,无解
或 m-1﹤0 且 2m+1﹥0,解集为-1/2﹤m﹤1
根据韦达定理
x1+x2=2(m-1)/m
x1x2=3(m-1)/m
x1²x2+x1x2²=x1x2(x1+x2)
=3(m-1)/m×2(m-1)/m
=6(m-1)²/m²
6(m-1)²/m²=3
6(m-1)²=3m²
6m²-12m+6=3m²
3m²-12m+6=0
m²-4m+2=0
m²-4m+4=2
(m-2)²=2
m-2=±√2
m=2+√2 或 m=2-√2
经检验m的两个根都是方程的根
∵ -1/2﹤m﹤1
∴m=2+√2不合题意,应该舍去
∴m=2-√2