由题意得,ax-by=5 ①
ay+bx=3 ②
①^2得a2x2+b2y2-2abxy=25 ③
②^2得a2y2+b2x2+2abxy=9 ④
③+④得a2x2+b2y2+a2y2+b2x2=34
a2（x2+y2）+b2（x2+y2）=34
（a2+b2）（x2+y2）=34
故答案为34