on the road of the city这个正确
这个是一个地点状语
而on the road in the city本身就是错误的,从语法上讲不通