5-√6的整数部分为a,小数部分为b
∴a=2,b=5-√6-2=3-√6
∴a²-ab+b²
=2²-2(3-√6)+(3-√6)²
=4-6+2√6+9+6-6√6
=13-4√6