①噬菌体是病毒，其遗传不遵循孟德尔的遗传规律，①正确；   
②乳酸菌属于原核生物，其遗传不遵循孟德尔的遗传规律，②正确；   
③酵母菌是一种真菌，属于真核生物，在进行有性生殖时，细胞核基因的遗传遵循孟德尔遗传规律，③错误；    
④蓝藻属于原核生物，其遗传不遵循孟德尔的遗传规律，④错误；    
⑤食用菌是一种真菌，属于真核生物，在进行有性生殖时，细胞核基因的遗传遵循孟德尔遗传规律，⑤错误．
故选：C．