1909年3月,26岁的阎锡山从日本毕业返国。他探知山西新军第43混成协协统姚鸿法之父姚锡光在清政府陆军部任左丞,回国时特意绕道北京谒见姚锡光,谎称自己是留日归国学生代表,施展出他阿谀奉承的伎俩,姚锡光于是写信给其子姚鸿法,授意对阎锡山予以关照。这样,阎锡山一回太原,便担任了山西陆军小学教官,三个月后升任监督。
其后,他又在太原的五大衙门大肆活动,晋见抚台、藩台、臬台、学台和道台,拜访咨局议长梁善济等上官,并同梁善济的门生邢殿元订“金兰之交”,以期得到梁善济的青睐。果然梁善济到处逢人说项,对阎锡山赞美有加。标统夏学津是山西巡抚丁宝铨的亲信,阎锡山就设法与夏学津接近,经夏学津介绍成为丁的门生。这年10月,他又参加清政府陆军部门举行的留日归国学生会试,考得陆军步兵科举人,被任为陆军第86标(也称第2标)教练官,相当于副标统,而标统正是夏学津。当时清廷在山西驻军为一个混成协,辖两个步兵标(即八十五标和八十六标)、骑兵、炮兵各一个营,工兵、辎重兵各一队,归山西陆军督练公所节制指挥,公所总办就是曾任混成协协统的姚鸿法。第二年,由于丁宝铨和夏学津二人被参劾而离晋,阎锡山升为标统。
此时阎锡山一面与清廷权贵勾结,取得朝廷的信任;一面又以同盟会会员和“铁血丈夫团”成员身份,成立了一个核心组织,培植亲信,并结交不少革命党人,把山西新军的领导权基本上掌握在同盟会员和革命同情者的手中。
武昌起义爆发后,在太原的同盟会员密谋响应,但因新军有枪无弹(当局害怕起义收走了子弹),未能发难。10月28日,第八十五标奉命出发南下平乱,领到了子弹,阎锡山等同盟会员当即决定起义。29日晨,该标同盟会员杨彭龄、张煌等宣布起义,公推管带姚以价为起义军总司令。起义军攻入城内,杀死山西巡抚陆钟琦,攻占巡抚署,起义大获全胜。
后来为人熟知的阎锡山之骑墙作风此时就露出端倪了。据阎锡山表侄张瑞生回忆:1911年10月29日,山西起义军加入反满复汉的辛亥革命。阎锡山在这一仗中带着亲信躲在树丛中观望——“如果起义成功,他跟进的部队可以参与邀功;如果失败,造反的责任可推到别人身上。”民国人士孟默闻回忆说:少年时代,同学间对脚踏两只船的人常用“你这阎锡山”戏称。在太原起义成功当天,阎锡山、温寿泉、张树帜等曾在阎锡山的标本部开会,提前酝酿山西都督人选。阎锡山主张选姚鸿法为大都督,理由是:一、姚鸿法原任第43混成协协统,是自己原来的直接长官,办事较方便;二、如起义失败,姚鸿法的父亲任清庭陆军部侍郎,事情好缓和。大家一致同意,并推温寿泉与姚鸿法接洽,但姚鸿法坚辞不允。温寿泉回报后,大家主张选阎锡山为大都督,阎锡山也有此意。