a²-2ab+b²-c²=（a-b）²-c²=（a+c-b）[a-（b+c）]．
∵a，b，c是三角形的三边．
∴a+c-b>0，a-（b+c）<0．
∴a²-2ab+b²-c²<0．
故选C．