∵（a-2i）i=b-i，其中a、b∈R，i是虚数单位，
∴2+ai=b-i，
∴a=-1，b=2，∴a²+b²=5，
故选D．