为了学习革命办法,冯玉祥在李大钊的安排下,于1926年3月16日由山西平地泉启程赴苏。23日,抵达蒙古库伦。4月5日,与鲍罗廷、于右任会见,详谈国民军与国民党合作问题^[1]。鲍罗廷动员冯玉祥加入国民党,对他说:“公之救国大策,如有优于国民党者,敝等当离国民党以援公;倘竟无之,请公速加入国民党,接受其主义与政策,联合一致,共计革命之大成。”^[2]同月,徐谦到达库伦,也劝冯加入国民党,并随冯赴莫斯科。
        5月9日,冯玉祥等到达莫斯科。苏联政府特派曾任加伦参谋长的乌斯曼诺夫(Усманов)为顾问,为冯讲解辩证法唯物论。冯玉祥参观了莫斯科、列宁格勒等地的机关、学校、工厂、兵营,特别留心考察红军中的政治工作制度。其间,还分别会见了苏联外交人民委员齐切林(Г.В.Чичерин)苏联政府主席加里宁(M.И.Калинин)以及伏罗希洛夫(К.Е.Ворошилов)、托洛茨基(Л.Д.Тродкий)、中山大学校长拉狄克(К.Б.Радек)、列宁夫人克鲁普斯卡娅(Н.К.Крупская)等。冯玉祥初步认识到要革命成功,必须有“旗帜鲜明之主义”及“正确革命党为之领导”^[3]。同时,共产国际也委派刘伯坚做冯玉祥的工作,逐渐取得冯的信任。冯要求“介绍CP与之谈话”^[4]。中共驻共产国际代表团随即派蔡和森去冯处,向冯及其随行将领作了三天报告。不久,蔡和森又派中山大学中共负责人朱务善等为冯讲解中国革命问题。冯玉祥表示,对“中国CP五年来之主张非常满意,对CP更深一层的认识”^[5],声称要走十月革命的路,要向苏联共产党和苏联红军学习,建立政治工作机构。后来蔡和森曾写信向李大钊报告,冯玉祥在苏联“进步甚大,颇可乐观”^[6]。其间,冯玉祥经徐谦介绍,填写了加入国民党的志愿书,并于随后谕令国民军全军加入国民党。
        6月初,谭延闿、蒋介石致电冯玉祥,邀其赴粤会谈。11日,冯复电提出:武汉为南北枢纽,“戡救国难,军队非速会师武汉不可。”^[7]17日,冯派李鸣钟、刘骥二人为全权代表赴广州接洽。在致蒋介石、谭延闿手札中,冯称:在莫斯科每日考察政治、经济、军事等项,“与平素所服膺之三民主义相印证,愈为佩仰”,表示愿“与诸同志联合战线,共同奋斗”^[8]。刘骥抵达广州后,与国民政府商定:冯接受孙中山三民主义,从北方协助北伐;国民政府给予国民军以巨额接济^[9]。同年8月,国民党中央任命冯玉祥为国民军总党代表、国民政府委员、军事委员会委员。
        刘骥等的南行使命虽然完成得不错,但北方国民军的处境却日益不佳。7月,奉直联军加紧进攻南口。为了解救被困的国民军,策应广东方面北伐,李大钊决定派于右任赴苏敦促冯玉祥回国。于右任到达莫斯科后,“觉冯思想更进步”^[10]。他向冯转达李大钊的意见并与之商定了具体计划。
        冯玉祥归国之前,在克里姆林宫会见了苏共和共产国际主要负责人季诺维也夫(Г.И.Зиновъев),要求提供援助^[11]。其后,斯大林(И.В.Сталин)决定为冯提供40万人的军事装备^[12]。8月17日,冯玉祥离开莫斯科回国,乌斯曼诺夫、刘伯坚等随行。途中,冯玉祥接受刘伯坚建议,亲笔致函陈独秀,表示对中共的“敬慕”,称赞中共的理论“非常正确”,主张“极其持平”,“越想越佩服”。冯玉祥要求中共帮助物色人才,到国民军中办政治画报,并任择两地,开办报馆,作为国民军的宣传机关。信中,冯玉祥并表示,希望中共以后能不断来信,指导工作^[13]。
        9月16日,冯玉祥抵达五原。当时,国民军自南口败退已一个多月,境况极为困窘,官兵服装褴褛,面有饥容。除驻甘肃者外,不满五万人;驻五原者,不过四五营人。官兵听说冯玉祥归来,欢欣雀跃。17日,冯玉祥被推为国民联军总司令,下辖第一、第二、第三、第五、第六各军。同日,举行就职誓师授旗典礼,宣布国民军“与国民党结合为一”^[14]。冯玉祥发表了由刘伯坚起草的宣言,自称“走到苏联,看到了世界革命起了万丈高潮”,是“没有办法而去,有了办法而来”。宣言并称:“我是生在工人的家庭当中”,“完全是无产阶级的人”,表示将遵奉孙中山遗嘱,实行三民主义,接受国民党第一、二次全国代表大会宣言与决议,进行国民革命^[15]。19日、20日,连续召开军事、政治、经济各项会议,提出三个口号:一、全军政治化、革命化;二、打倒官僚式之军队,建设同志式之军队;三、拔除虚伪恶根。
        五原誓师后,冯玉祥任命鹿钟麟为参谋长,何其巩为秘书长,薛笃弼为财政委员会委员长,刘伯坚为政治部副部长,以乌斯曼诺夫为政治军事顾问。同时并选派人员分赴各军成立政治处,担任军内党务、政治、训练、宣传及民众等方面的工作。9月27日,中国国民党国民军联军全军代表大会开幕,成立特别党部,选举方振武、刘伯坚等十一人为执行委员,冯玉祥、徐谦、于右任等五人为监察委员。30日,阅兵,行授旗礼。冯玉祥接过国民党党旗后再次表示忠于孙中山的三民主义。词毕,冯玉祥向众高呼:“同志们,你们辛苦了!”众答:“我们是为革命服务!”据冯玉祥日记记载:“大有气壮山河之概。”其后,冯玉祥接受乌斯曼诺夫的意见,加强了部队的政治思想工作。冯玉祥每天集合各部讲话,又命政治部编了许多有关三民主义的歌词,教育士兵。刘伯坚每日工作18个小时,为加强部队政治工作作出了突出贡献。10月,制订《国民联军政治工作大纲》39条,提出“把政治工作放在第一重要的事上”,规定军和独立师以上设政治部,要使每个士兵懂得战争的目的,成为“有觉悟的为中国自由独立而奋斗的战士”^[16]。自此,国民军的政治工作逐渐制度化、正规化。同时,冯玉祥并颁布了若干纪律条文,以严明军纪。鹿钟麟、宋哲元亲自带队巡查,防止扰民。方振武部有一士兵吃了百姓的西瓜没有给钱,即被方查实枪毙^[17]。
        中国共产党始终关心并支持冯玉祥重建国民军的工作。10月18日,李大钊主持制订了《北方区对于西北军中工作的意见》,认为“冯之左倾”是“我们不可放弃的机会”,提议选派“得力的同志”去建立“得力指导机关”^[18]。11月初,中共中央作出《关于国民军工作方针的决议》,共12条,从政治宣传、政策掌握、工作态度、活动方法等多方面,对如何争取冯玉祥,改造国民军提出了细致、具体的意见。9日,又致信刘伯坚,要他十分谨慎地工作。信称:“若果我们现时工作不好,可以使以后工作发生不良影响,甚至影响老冯之失望,改变其左倾观念。”^[19]本来,在国民军中工作的共产党员就有一百七八十人。在此前后,中共中央又从北方区委和莫斯科、广州、上海等地抽调了邓希贤(小平)、李林、王炳南、刘志丹、阎揆要等四十余人到国民军中工作。
        五原誓师标志着国民军的新生,自此摆脱北洋军阀的控制,走上了反帝、反封建的道路。它牵制北方反动势力,呼应广东北伐,大大改变了力量对比,促进了北伐和革命形势的发展。