1914年7月冯玉祥任陆军第7师第14旅旅长，参加镇压白朗起义。9月任陆军第16混成旅旅长。1915年奉令率部入川与讨袁的蔡锷所部护国军作战，曾一度击败蔡锷，获袁世凯颁发三等男爵。后暗中与蔡锷联络，于1916年3月议和停战。1917年4月被免去第16混成旅旅长职，7月率旧部响应段祺瑞的讨伐张勋复辟，复任第16混成旅旅长。1918年2月率部南下攻打孙中山的护法军，在湖北武穴通电主和，被免职留任。6月率部攻占湖南常德后，被撤销免职处分，11月任湘西镇守使。
1921年8月任陆军第11师师长，从属直系军阀，率其部队入陕西，在陕西督军阎相文自杀之后，接任陕西督军，并以此地为地盘扩充，受到苏联大力支持壮大，其军队因此被称为“西北军”。1922年第一次直奉战争中，出潼关，击败河南督军赵倜，任河南督军，因杀降将宝德全，被撤河南督军，赴京改任陆军检阅使。
1924年10月第二次直奉战争时，负责在热河一路抵抗奉军，在参战途中，接受张学良50万银元的贿赂，率军返回北京，发动北京政变，囚禁总统曹锟，推翻北洋政府，脱离北洋军系，改编所部为“国民军”，电请孙文北上。导致山海关一路的吴佩孚失败。于11月5日逐溥仪出宫。因无法抗拒直、奉系军阀的压力请来段祺瑞主政，遭到排挤。
冯玉祥1925年底冯玉祥参加反奉战争，1926年1月1日通电下野，赴包头。4月9日国民军再度发动政变，逼走段祺瑞，释放曹锟，但军事上失利，不得不撤出北京，在南口坚守。5月冯赴苏联考察，同年8月回国。国民军在南口坚守四个月后，于8月退回西北，9月17日冯在绥远五原誓师，任国民革命军联军(后改国民革命军第二集团军)司令，宣布所部加入国民党。在击溃刘镇华的镇嵩军之后，率领西北军出潼关参加北伐，为国民革命军指挥官之一。1927年4月宁汉分裂之后，先在郑州与汪精卫会面，后在徐州与蒋中正会面，最后选择与南京蒋中正合作，清除内部的中国共产党人。
1927年，笃信基督教的冯玉祥在河南废寺逐僧，将大相国寺改成市场。并发动全省毁佛运动，所有比丘、比丘尼一律驱逐。所有寺产没收，寺院改为学校，或作救济院、图书馆，或成为娱乐场所。继河南之后，直、鲁、秦等地，也都纷纷跟从，华北佛教因此几乎衰绝。
1929年4月，冯玉祥不满国军编遣会议比例式裁兵原则的决议，称病离开南京。5月14日于潼关出任“护党救国军西北军”总司令，但迅速被南京方面内外夹攻而失败，被迫离职前往山西。
1930年，联同阎锡山、李宗仁等与蒋中正对抗，引发中原大战，兵败后隐居山东泰山。10月，冯玉祥通电下野。
