原正方形的边长为a，
所以原正方形的面积为：a²；
小正方形的边长为a-b，
所以小正方形的面积为（a-b）²，
则较小的正方形的面积比原来的正方形的面积减少为：
a²-（a-b）²
=[a+（a-b）][a-（a-b）]
=（a+a-b）（a-a+b）
=b（2a-b）
=2ab-b²．
故选D．