at.
这是“be good at 擅长于”词组的用法,better是good的比较级.
句子意思是他比他姐姐更擅长于数学.