∵（3/4）^（x^2-2x-5）<16/9
∴（3/4）^（x^2-2x-5）<（3/4）^(-2)
∴x^2-2x-5>-2
即：x^2-2x-3>0
（x-3）（x+1）>0
解得：x>3或x<-1