方程5x²-7x-6=0的根，分解因式得：（x-2）（5x+3）=0，
解得：x=2或x=-

3

5

，
∵cosC是方程5x²-7x-6=0的根，且cosC∈[-1，1]，
∴cosC=-

3

5

，又C为三角形的内角，
∴sinC=

1−cos2C

=

4

5

，又a=5，b=3，
则S_△ABC=

1

2

absinC=6．
故答案为：6