然而，这时的吉鸿昌已经不是一名普通的能征惯战的西北军将领了，他已经加人了中国共产党。事情的经过是这样的：
吉鸿昌在泰山辞别冯玉祥，回到天津，就积极进行活动，联络各种抗日反蒋爱国力量，并很快与中共中央军委在平津一带建立起的华北政治保卫局建立了联系。五月，根据党的意见，吉鸿昌又秘密奔赴上海，同宋庆龄等爱国进步人士进行广泛接触，并参加了东北抗日救国后援会的工作。这时，他还秘密派人与仍在湖北地区被迫进攻鄂豫皖红区的旧部取得联系。八月，吉鸿昌决定亲自到湖北黄破、宋埠一带收集旧部，然后起义投奔红军，参加革命。但他不知道，就在他离国出走期间，原旧部大部分已被蒋介石收买的收买，改编的改编，队伍中的进步力量也被监视起来，此时要想把队伍聚起、拉走，是十分困难的。吉鸿昌冒着生命危险，找到旧部第三十师，向官兵们讲述蒋介石的罪状指明只有共产党，红军才能救中国。受到爱国官兵们的热烈拥护。但是，蒋介石很快得到了吉鸿昌回部队策动起义的密报，急令鄂豫皖三省“剿匪”司令部参谋长曹浩森予以抓捕。吉鸿昌看到情况紧迫，只好决定带上三十师的一个团奔向苏区。由于敌人四面围追堵截，起义失败。吉鸿昌一行极少数人突出重围，进人苏区。在红安县的长冲，吉鸿昌先见到鄂东游击部队司令员郑位三，随即受到沈泽民、徐海东等等区负责人的热烈欢迎。在苏区期间，吉鸿昌与沈泽民等苏区领导人讨论了中国革命问题和抗日救国的方针，常常竟日不倦。一次，吉鸿昌表示要参加红军时，徐海东说：“你不如独树一帜，自己另干起来，我们可以南北呼应打击敌人，这样比起义的作用大。”吉鸿昌同意了。由于吉鸿昌有重任在身，不能久留，临别时，他把自己的望远镜、金怀表和养目眼镜，分赠给沈泽民、徐海东等苏区领导人。在红军派人护送下，吉鸿昌先抵上海，后秘密回到天津，向党组织汇报了此行的全部情况。就在这一年秋，吉鸿昌被光荣地批准参加了中国共产党。
冯玉样派高兴亚来天津的时候，吉鸿昌根据党的指示，也正准备赶赴张垣。三月下旬，吉鸿昌由天津启程，途经北平动员了一些西北军旧属同行。他还写信给尚在日本的南汉衰，催促南回国共谋抗日。旋即又马不停蹄地驱车赶到了张家口。
冯玉样于万难之中见到了心腹爱将吉鸿昌，其高兴的程度是他人难以理解的。加之，当初欢迎他来张家口居住的宋哲元，一闻组织抗日同盟军就变得敬而远之，所以，他又是激动又是感慨地说：
“家贫出孝子，国难出英雄，这话一点也不错！你的到来，使我又懂得了患难见人心这句话的实在意义。从今天起，你我要想当国难中的英雄，首先要做患难见人心的朋友。”
吉鸿昌自然懂得冯玉祥这番感慨的真情，他也剖腹见心地对老长官说：
“人的地位变了，想法自然也就不就同了，就我的本性而言，对那些只要个人名誉地位，而不关心国家兴亡的老同事，真相打上门去，当面骂他一顿。可这又有什么用呢？冯先生，骂别人不顾国家兴亡，不如我们自己拿出不当亡国奴的本色来！”
“好小子，说得对！”冯玉祥禁不住地抡了吉鸿昌一拳，但是，当他再一品味吉鸿昌说的这番话，又惊诧不已地说，“你小子变了，真的变了！如果说你过去是吉大胆的话，现在就变成了一位心胸豁达―说不定还有点心计的人了。”
“冯先生，你先不要夸我，免得夸去了皮，将来又和冯先生顶牛。”
“只要是为了抗日救国，莫说是顶牛，就是和我拍桌子、瑞板凳也成！”
吉鸿昌深知这位老长官的脾气，他蓦地站起身来，紧紧地握住冯玉祥的双手，近似将军地说：
“一言为定？”
“一言为定！”
“好！”吉鸿昌松开双手，遂又像昔日那样两腿并拢，成立正姿势，请战似地问：“冯先生命我来张家口，是立即授我兵权抗日呢？还是要我和冯先生先一道拉队伍呢？”
“准确地说：都不是！”冯玉样那兴奋的情绪碎然间消逝了，接着又叹了口气，“打开天窗说亮话吧，我只为你准备了一个军的人马，可眼下要吃没吃，要穿没穿，就是连打鬼子的枪炮也不齐全！”
“这都不要紧，事在人为嘛！”吉鸿昌一听老长官是请他来当军长的，他出于职业军人的本能，激动得几乎跳了起来，“快说说这一军人马是怎么来的，让我也高兴高兴！”
冯玉祥没有给吉鸿昌带来高兴的消息。相反，他非常愤慨地告诉吉鸿昌：负北方军政之责的何应钦，“只知秉承蒋介石的意旨多方阻挠抗战，以遂行其屈辱投降的亡国政策，而对于由热河撤退到察省的军队，却毫无善后的准备。因此，察北、张北和张家口等地立即陷于惊慌混乱之中。首先是由东北和热河退下来的部队，如李忠义、邓文的义勇军，黄守中的热河抗日救国军，冯占海、刘震东、富春、姚景川和马冠军等的抗日部队，以及其他不甘投敌的零星部队，总计不下十余万人，他们都辗转撤人察境。但是，何应钦认为这些部队行同土匪，不予收容，任其自生自灭，使他们陷于无衣无食的窘境。他们在此仿徨无主的情况下，都投奔了主张抗日的冯玉祥。”最后，冯玉祥很是沉重地说：
“我给你的这个军，就是收集、整编退到察省的几部少数义勇军，以及地方自卫队、志愿抗日民众武装，还有招募的张家口若干爱国青年，约计四千余人。”
“这就十分可观了！”吉鸿昌深知老长官处于在野地位，仅在短短的几个月中，凭着他的声望和一腔抗日热情，为自己准备了四千人马，其为难之处是可想而知的。所以，他既感动又乐观地说：“冯先生功德无量，令国人敬佩。下边有什么难处，或者说需要我做些什么，你就下令吧！”
“下边的难处嘛，自然是很多的了！”接着，冯玉祥指出，这四千余人的素质很差，必须进行严格军事训练，尚能担此抗日救国之大任。最后，他又为难地说：“训练抗日救国部队的事情，我不担心，你吉鸿昌也是有办法的。时下最为关键的是：他们手中没有足够的武器，我们总不能让他们用血肉之躯，和日本鬼子的飞机大炮相拼吧！”
“这也不难，”对此，吉鸿昌似有准备，他当即慷慨答说，“一，我让家人变卖家产，在天津卫购买武器；二，向朱子桥先生呼喊；三，向驻扎在赤城到怀来一线的四十一军军长孙殿英借人、借枪。”
冯玉祥听后十分感动！他越发地觉得吉鸿昌像团火，在他这团火面前，没有烧不化的困难。另外，他一向认为“失败是成功之母”这句话是真的。仅仅通过这次交谈，他就明显地感到吉鸿昌成熟了，并且具备了智勇双全的大将风度。同时，他历经失败后的韬光养晦，以及泰山时期的学习和总结，也变得虚心多了。所以，他很诚恳地说：
“鸿昌，我该说的都说了。下边，我可要听你的了。”
“我有什么好说的！”吉鸿昌说罢憨厚地笑了笑，有意说了一些冯玉祥顺乎潮流，主动举起抗日救国大旗的话后，方才又说，“如果冯先生一定要听我这个粗人的话，说来也很简单。一，继续招兵买马，首先把愿意跟着冯先生打日本鬼子的将领，全都请到张家口来。要真正做到人心齐，泰山移；二，俗话说得好，竖起招军旗，就有吃粮人。冯先生应当尽快地在张家口举起抗日救国的大旗，我想会有很多有志之士投旗而来！”
“好！我听你吉鸿昌的。”冯玉祥说罢笑了，他很久没有这样舒心地笑了。
吉鸿昌说干就干，他一方面投书朱子桥先生，说明察省组军情况，力促由朱领导的抗日后援会提供援助；另一方面为解燃眉之急，决计毁家纤难拿出六万元购置军火。他派人到天津协助夫人胡洪霞买了一批冲锋枪和勃朗宁手枪，通过关系，租用“满洲铁路汽车公司”的汽车，并由夫人胡洪霞亲自将枪由天津运到张家口。吉鸿昌对先期投军的人员加紧进行训练，挑选了一些精干人员组成了行动敏捷的手枪连。
吉鸿昌为了劝说孙殿英抗日，又于三月二十八日乘火车到沙城，通过四十一军驻沙城办事处，要了一部汽车，兼程赶到赤城四十一军军部，面见孙殿英。凭着在西北军时的“交情”，吉鸿昌向孙提出要人要枪组织抗日军。孙殿英吞吞吐吐不做明确答复。赤城逗留期间，吉鸿昌应孙之邀在温泉洗澡，挥手在壁上题下了“洗耻”二字，对孙晓以大义。
与此同时，冯玉样也着手基本队伍的筹划。在他抗日热情的感召下，继吉鸿昌之后，其旧部孙良诚、高树勋、张凌云等已先后到达张家口，他们都把自己的财产拿来充作军费和购买枪支，经过短期的准备工作，吉鸿昌收集了退到察省、无人统辖的义勇军数部，加以整顿编制并予以服装械弹的补充，同时装备了志愿抗日的民众武装数部，计有周义宣、徐荣华、宜侠父、李廷振、王英等部。高树勋招集的，计有：宋敬久、马金良等部。孙良诚招集的，计有：雷中田、李海山、刘振玉等部。张凌云招集的，计有：包玉玲、胡云山等部。共计一万五千余人。正当这些西北军高级将领多方商议，如何争取握有兵权的宋哲元率部参加抗日的时候，冯玉祥突然收到宋哲元向南京国民政府辞谢察哈尔省政府主席的报告。全体闻之大惊，都禁不住地黯然自问：
“宋哲元为什么要公然辞职呢？”