我刚刚想了一下,发现当时间是特指某个特定时间时,经常不用介词,例如：
He didn't come last night.他昨晚没来.
He recognized me the moment he saw me.他一看到我就认出我了.
She left home that day.她那天离开了家.
但是即使加上介词也没有什么问题,因此我认为这时可以省略介词,而不是必须去掉介词.
不过,对于moment这个词这种想法不是完全符合,可能因为它毕竟不同于night、day这一类本身就带有时间含义的词语.
仅供参考,欢迎随时交流