由题意得,ax+by=3 ①
ay-bx=5 ②
①2得a2x2+b2y2+2abxy=9 ③
②2得a2y2+b2x2-2abxy=25 ④
③+④得a2x2+b2y2+a2y2+b2x2=34
a2（x2+y2）+b2（x2+y2）=34
（a2+b2）（x2+y2）=34
故答案为34