政协会议通过了有关军事问题的决议,但军事问题的解决并未在会议上具体讨论,而是在马歇尔的直接参与下,会后由国共美三方谈判解决。马氏提出的对中国军队彻底改造的方案,强调按西方军事传统,在中国建立一支国家的、非政治化的、民主的军队,而非政争的工具。军政分离是他拟订整军方案的总原则^[1]。然而他的设想,首先在国共军队混编问题上便碰了壁,中国的现实注定了马氏的设想难以实现。
        军队是中共最为关注的问题,即使是在政协刚刚闭幕的乐观气氛中,中共对军队问题也比对其他问题更为小心。2月5日,周恩来向中共中央报告了马歇尔的整军方案,马氏提出实行军队国家化,军人不得兼任文职,平时军队只管训练,另划补给区供给,军队不得随意调动;整编时间为18个月,第一步即实行国共军队以师为单位的初步混编。周恩来认为马氏提出的“建军原则可同意,因他在基本上是限制统帅权的”;其“整军原则,基本上亦可同意,因他之统一整编办法,是公平的”。但在整军程序上,周恩来认为国共军队应首先平行整编,混编应待第二步再行^[2]。中共中央基本同意周恩来的意见,认为:马歇尔所提主张按西方民主制度改变中国军队制度及军人思想的办法,对破坏国民党及许多军队的原系统是彻底的,但事实上今天行不通,可原则上赞成他的意见。对于马氏的混编方案,中共认为“其目的是企图消灭或控制中共军队,故绝不能答应”。因此,中共中央指示周恩来:“军队问题是最重要的问题,必须谨慎处理。为取得经验并看清美国的意图及当前形势来决定对军队的政策。”^[3]
        中共对马歇尔整编方案的反应尚在马氏意料之中,令马歇尔不解的是,国民党也反对他的混编计划,原因之一是非嫡系部队及其长官担心因此而失去部队的自主性,从而也就失去了诸多特权。直到晚年撰写回忆录时,李宗仁尚愤愤于陈诚企图以混编“排除异己,培植私人势力”,而且这样一来,“原先本甚单纯的军事系统,反而弄得庞杂了,指挥不易,士气消沉,战斗力也因此丧失”(实际陈诚并不主张立即实行混编,见下段)^[4],马氏另外一个设想更是令国民党莫明其妙。据张治中回忆,马歇尔最初曾提出中共陆军占总兵力的三分之一,海空军中共亦占至少30%份额的方案。蒋介石见到该方案后非常诧异,因为国共军队比例双方已有成议,即中共占总数的六分之一或七分之一,而海空军问题中共从未提出过,蒋即要马歇尔立予修改。马氏最后提出的方案维持了中共军队占总数六分之一的原案,而未再提海空军问题^[5]。大概马歇尔当时企图对中共诱之以利,使中共尽早同意其整编方案。就马氏本人而言,他自认提出的方案对国共双方不偏不倚,然而他是按美国人的思维逻辑考虑问题的,因此他的方案没有考虑到中国国情,没有认识到中国长期你死我活的政治斗争中,军队所起的举足轻重的作用,因此他的方案遭到国共双方的反对就不奇怪了。
        2月14日,关于整编军队的三人小组会议在重庆开始举行。由于国共双方在很多问题上已经有私下默契,也由于当时的大环境,加上马歇尔的调解,整军谈判总体而言是在较为和谐的气氛中进行的,在军队数量、统帅权、复员等问题上很快达成了妥协^[6]。国共争论较多的是马歇尔提出的混编计划。国民党代表张治中最先提出的方案照抄了马歇尔的方案,在第一期整编的十二个月内,军队实行以师为基础的初步混编,即每军由政府军二师和中共军一师,或政府军一师中共军二师组成;十二个月后的第二期整编六个月内,实行彻底混编,即不再有政府师和中共师的界限之分。中共代表周恩来反对此一方案,他提出第一期双方各自编成,不相混合;第二期初步混编或称统编;彻底混编则须视以后局势进展情形如何再议。他的理由是,两支军队彼此对立了十八年,有着不同的制度和体系,不可能一下就合在一起。马歇尔折衷双方意见提出一个方案,第一期整编,前六个月各自编成,后六个月实行以军为基础的混编,第二期实行以师为基础的混编,未提彻底混编问题^[7]。实际混编的方案在国民党内亦遭反对,军政部部长陈诚的意见是:“混合编军办法最值得研究,因国共军队今后虽均属国军,在理自无问题,惟以种种思想问题,以及各军历史性,尤其所处之环境及将领之生活等等,决非短期所能融合(此点尤需特别注意)。”张治中详加研究后,认为一年内混编实属利害参半,遂向蒋介石建议,不如顺水推舟,　接受马歇尔的折衷方案^[8]。结果马氏的方案得到国共双方的首肯。
        整军谈判中另外一个引起争议的问题,是一般人不太注意的宪兵与护路队的地位。周恩来认为此两者人数及武装均不少(宪兵有20个团,护路队有18个总队),考虑到他们对中国政治民主化进程的影响,应予限制。张治中则表示,宪兵编制小,部署分散,且无重武器,不能称为武装力量,护路队则不属于军政部管辖,因此这两者不在讨论范围之内,不应提出。周恩来又表示,宪兵问题非纯关力量对比,而是宪兵到处干涉人民,影响民主政治。马歇尔建议将此问题留给政治方面解决。张治中就此问题向蒋请示时认为:“整编共军最主要的为统编及驻地问题,但如能于六个月后,即以军为单位开始统编,则驻地问题亦可随而解决,似属于我有利。至宪兵及护路队问题,自仍以坚决拒绝商谈为宜。”^[9]最终这两个问题未在协议中写明。
        2月25日,张治中、周恩来、马歇尔签署了《关于军队整编及统编中共部队为国军之基本方案》(通称“整军方案”),主要内容为:1.国民政府主席为陆海空军最高统帅,但在撤免中共部队军官时,应由政府内的中共代表提名;2.陆军每军由三个师组成,全国划为八个补给区,负责军队补给;3.本协定公布后十二个月内,政府应将九十个师、中共应将十八个师以外之各部队复员,三到六个星期内,政府与中共应交出保留各师表册及复员部队次序,十二个月完毕后之六个月,政府军应缩编为五十个师,中共军应缩编为十个师,合共六十个师,编为二十个军;4.自整编开始六个月后,由政府军和中共军编成集团军,十二个月终了时,配置如下,东北,政府五个军,中共一个军。西北,政府五个军。华北,政府三个军,另四个集团军,各包含政府一个军、中共一个军,双方各担任二个集团军总司令。华中,政府九个军,中共一个军。华南,政府四个军。十八个月终了时,取消集团军,配置如下,东北,政府四个军,另一个军,包括政府二个师,中共一个师,政府军官任军长。西北,政府三个军。华北,政府二个军,另三个军,每军包括政府一个师,中共二个师,中共军官任军长,一个军,政府二个师,中共一个师,政府军官任军长。华中,政府三个军,另一个军,包括中共二个师,政府一个师,中共军官任军长。华南,政府二个军;5.省保安部队不得超过1.5万人,以轻武器为限;6.军调部为本协定执行机关,协定生效后,政府及任何党派组织不得保持或支持任何秘密或独立武力,伪军及非正规军应尽速解除武装并解散之^[10]。
        自抗战中后期起,军队问题就一直是国共之间争执不下、最难妥协的关键问题之一,在马歇尔的调停下,国共双方达成整军协定,这是继达成停战协议和政协决议之后,中国政治民主化进程的又一重大收获。在整军协定签订时,国共美三方代表均给予了肯定的评价。张治中称,政治协商会议之成功,乃在达成政治民主化之目标,此一文件,则将奠定军队国家化之基础。今后我国当可本和平建设之大方针,以建设三民主义之新中国。本人代表政府签此方案,并百分之百保证其执行,使达成逐步军队国家化之目的。周恩来称,只要政府和中共,乃至全国人民都能坚守和拥护此一方案,相信任何困难阻碍,都不能妨碍此方案之实施。我代表中国共产党,向诸位,向全国人民,向世界友邦保证,凡我们签订的文件,特别要包含这次签订的整军基本方案,我都要使他百分之百的实现。马歇尔称,此协定为中国之希望。吾相信其将不为少数顽固分子所污损,盖此少数顽固分子,自利自私,即摧毁中国大多数人民所渴望之和平及繁荣生存权利而不顾也^[11]。根据马歇尔拟订原则达成的整军协定,与政协决议精神是相符合的,即在一个西方式民主政体下,建立一支真正的国家军队。考虑到军队在中国政治中的特殊重要性,整军协定的实行较之政协决议更为困难,更有赖于整个政治环境的支持,然而此时的政治环境较之一个月以前已经有了某种变化,国民党内对于政协决议的反弹正在浮现,从整军协定在反苏游行的余波中签订这一事实^[12],多少已可预知其未来的命运未可乐观。
        整军协定虽得到了蒋介石的同意,但他对此并不满意,他自记所感曰:“整编时期定为一年半,乃全照共党之意见而定,又华北五省,政府只可驻七个军,而中共反可驻四个军,初尚以为只限于冀鲁两省,殊不料其所谈者系指华北五省也,甚矣!文白(张治中)之足以误事也。”^[13]更为蒋介石不满的是,美国提出在整军期间建立一所军事学校,训练中共军队,并以美国武器装备中共部队十个师。在美国看来这是对中国军队一视同仁,并且可以借此笼络、控制中共部队,但在蒋介石眼中,这无异于使自己的老对手如虎添翼。魏德迈在3月27日以备忘录致蒋介石,拟先装备中共部队十个步兵营,十一个山炮连。蒋介石批示以下述意见转告魏德迈:“在中共部队未依照规定整编完毕以前,似不宜将此项装备即行移交。”^[14]马歇尔回中国后,对蒋的决定颇为不满,他在给蒋的备忘录中指出,此项装备为供给设在张家口的中共军事学校培训之用,以使其部队在整编时得有适当组织与训练,非为野战使用,“现得见钧座之训令,势将中止上述办法,于是实施整编统编之协定,亦必中止,故此事自极严重也”。国民党方面经过研究,认为训练与装备应该分开,训练所用之必须装备可以同意供应,但应先交由国方保管,至于“装备共军部队,须俟统编后能统一指挥,方可开始,否则,危险性大,我方拟坚持此项原则”^[15]。由于形势的变化,马歇尔以后未再坚持前议,此事遂不了了之。
        整军协定达成后,张治中、周恩来、马歇尔三人偕军调部三方委员于2月28日至3月6日巡视了北平、张家口、集宁、济南、徐州、新乡、太原、归绥、延安、武汉十处,会见了中共领导人毛泽东、刘少奇、朱德和国共双方高级军事将领,解决了若干未决问题^[16]。此次三人小组视察体现出的合作精神,不仅是军事调处,而且可以说是1946年早春中国政治民主化进程的最高峰。在延安,毛泽东向马歇尔保证,中共将尽其可能地遵守已经达成的协议,在美国朋友的帮助下,这些协议定能付诸实施,完成中国的复兴重建工作。马氏显然为毛的表示所打动,特意告诉他,因为国民党是执政党,因此其党内的自私派别自然不愿交出权力,然而这一定不会被大家所容忍。随后,马歇尔自信地告诉杜鲁门:“通过他们的巡视,各地的所有问题已经得到澄清,并促进了普遍的理解。一切都表明,事情将迅速得以解决,交通将重新恢复,平民的正常生活实际正在恢复之中。”^[17]他因此而认为,事态的发展都在他的计划之中,他可以放心地回国述职,安排贷款、援华等事宜。然而马歇尔过于自信了,他没有料到的是,就在他返美前后,国民党六届二中全会对政协决议的反动,导致了这一民主化进程的停滞和逆转。等他一个月之后自美返华,中国的政治军事形势与他走前相比已经面目全非了。