同日 八路军第3纵队成立 : 5月4日,人民自卫军与河北游击军在安平县合编组成八路军第3纵队,同时成立冀中军区。纵队领导机关兼军区机关。吕正操任司令员,王平任政治委员(后由程子华继任),辖第7支队,司令员赵承任;第8支队,司令员于权伸;第9支队,司令员沙克;第10支队,司令员孟庆山兼;独立第1支队(1938年9月组成),司令员朱占魁;独立第2支队,司令员柴恩波(后叛乱被平息);独立第3支队,司令员赵玉昆;独立第4支队,司令员高士一;独立第5支队,司令员魏大光;民众抗日自卫军,司令员王长江;回民总队,总队长马本斋;挺进总队,总队长赵东寰;津南自卫军,司令员张仲瀚,后编入第120师第719团。纵队和军区统归晋察冀军区指挥。
第3纵队成立后,依靠冀中人民群众,粉碎了日伪军多次围攻。至5月,初步形成了北起平津、南至沧(县)石(家庄)公路、西起平汉铁路、东至津浦铁路之间的冀中抗日根据地。1939年1月,八路军第120师主力由晋西北挺进冀中。在第120师的帮助下,第3纵队进行了整训,军政素质得到提高。9月,第120师回师晋西北,第3纵队继续坚持冀中抗日斗争。至1940年底,第3纵队下辖警备旅、第6至第10支队、回民支队、骑兵团等共4.6万余人。1941年, 日军对冀中加紧进行“扫荡”、“蚕食”和“治安强化运动”,第3纵队遂开展了反“扫荡”、反“蚕食”、反“治安强化运动”的艰苦斗争。1942年5月1日, 日伪军集中5万余人的兵力,开始对冀中抗日根据地进行空前残酷的大“扫荡”。第3纵队主力转到外线打击敌人,留一部配合民兵游击队就地坚持斗争。经2个月的艰苦奋战,歼日伪军1.1万余人,顽强地坚持了冀中平原的抗日游击战争。1943年8月,遵照中共中央军委的指示,第3纵队主力9个团开赴晋西北地区,编入晋绥军区建制,第3纵队番号撤销。