5月29日 山东兵团举行兖州战役(津浦路中段战役) : 5月,国民党从山东战场抽调三个整编师分别增援中原、苏北、东北战场,山东剩下的8个整编师,分别固守济、青岛等大城市和津浦路徐州至济南段,以支撑山东残局,屏障徐州。山东兵团遵照中央军委的指示,为配合华东野战军外线兵团作战,决定出击津浦路中段,逐步歼灭泰安至临城各点之国民党军,进迫徐州,孤立济南。其战役计划,以山东兵团主力首先进攻泰安及其南北地区守军,开辟战场,切断济南和兖州的联系,尔后乘胜围攻兖州,吸引徐州国民党军北援,予以歼灭,以一部兵力配合地方武装监视济南、青岛之敌,保证主力作战。
5月29日晚,山东兵团发起战役,先后攻占泰安、大汶口、曲阜邹县等地,于6月20日包围兖州。兖州为津浦路中段的战略要点,控制该城南可威胁徐州,北可攻击济南。该城筑有半永久性防御工事,城廓坚固。驻守敌军为国民党军第10“绥靖”区司令长官李玉堂率领的整编第12师及保安团队,共12个团,2.8万余人。山东兵团第7、第13纵队及鲁中纵队战至25日,扫清了兖州外围,并攻占西关。敌为解兖州之围,以整编第25师自苏北经徐州沿津浦路北援。28日,其先头部队抵进滕县以北界河地区。我攻城部队即撤围兖州,准备打援。国民党军发觉解放军攻城部队转移,且睢县、杞县地区的区寿年兵团陷入我中原和华东野战军的包围之中,求救甚急,遂将第25师车运商丘,改援豫东战场。
7月1日,我军再度包围兖州采取稳扎稳打的战法,先以一部扫清外围,主力进行攻城准备。7月6日,中央军委致电山东兵团;应该集中三个纵队及鲁中兵团,全力在雨季以前攻克兖州、济宁、汶上诸点,全歼12师及其他杂部,并争取歼灭从北面来援之敌,孤立济南,以利尔后及放手南进或西进更有力地配合粟兵团打大的歼灭战。指示山东兵团,应本着此方针精心组织这次战役,关于完成任务的时间,应按敌情和你们的具体条件来决定。在兖州将克之际应派一部兵力监视济宁来援之敌,似应以一个师利用大汶口西端敌人原来的工事,坚决阻击敌84师,如敌人来增援,则应对援敌实施前后夹击,保障此役胜利。
遵照军委的指示,山东兵团认真研究了攻取兖州的作战计划。经过充分的准备,于12日黄昏。我军发起总攻,担任主攻的第7、第13纵队主力在城西并肩突击,在炮火掩护下,于20时30分,多路突破城桓,并迅速向纵深发展。经一昼夜激战,至13日傍晚攻克兖州,全歼守敌2.7万余人,生俘整编第12军军长兼整编第12师师长霍守义。溃逃之残余国民党于城东郊被歼,仅李玉堂只身潜逃徐州。企图援兖的济南国民党整编第84、第2师于7月1日南援,由于惧怕被歼,故行动迟缓,13日其先头部队渡过汶河进至太平镇,我打援的第9纵队冒雨实施出击。因敌得知兖州失守,星夜北逃,我仅歼其后尾第84师一部1万余人。随后济宁、上汶守军相继弃城南逃。此役,共歼灭国民党3.7万余人,收复和攻克泰安、兖州等城镇12座和1万余平方公里的广大地区,控制了津浦铁路中段200余公里,有力地配合了华东野战军主力在豫东作战,使鲁中南,鲁西南解放区联成一片,进一步孤立了济南国民党军。