第24集团军的底子是红军留在江南由陈毅等领导的游击队，抗日战争爆发后编为新四军第6师。抗日战争中这支部队长期战斗在南京、上海敌人心脏区域，同日、汪、蒋势力进行了艰苦的斗争。解放战争中部队整编为华东野战军第6纵队，王必成将军(建国后任上海警备区司令，昆明军区，武汉军区司令)任司令，参加了解放战争。使24军青史留名的战役是苏中七战七捷战斗。在孟良崮战役中，该军表现出色，为全歼蒋介石嫡系精锐整编第74师立下大功，之后参加了淮海、渡江等华东战场历次大战。

抗美援朝战争后期该军由军长兼政委皮定均将军(建国后任兰州，福州军区司令)率领入朝参战，战争后期改由张震任代军长兼政委.

该军现属北京军区，军部驻河北承德。

第1师（装甲师）
第70师（步兵师）
第71师（步兵师）