答：
(a^2-1)x^2-(a+1)x+2>0的解集为实数R
1）a^2-1=0即a+1=0时,不等式为：0-0+2>0恒成立
2）a^2-1=0即a-1=0时,不等式为：0-2x+2>0,不符合题意
3）a^2-1≠0时,判别式=(a+1)^2-4*2(a^2-1)<0
a^2+2a+1-8a^2+8<0
7a^2-2a-9>0
(7a-9)(a+1)>0
a<-1或者a>9/7
综上所述,a<=-1或者a>9/7