玉崑和董福祥的部队经龙泉关开进山西，路经阎的家乡河边村。
听说这些部队纪律很差，村民都十分恐惧，于是共同决定推举一位纠首（相当于现在的村长）出面与部队交涉，免得部队过村洗劫一空。阎锡山在村中素有“勇敢”的名声，又读了那么多书，大家把希望盯在了他身上，公推他为纠首，负责保护全村利益。对于这一担有风险的差事，阎锡山丝毫没有推卸，接事后，立即与村中长者商议对付办法，接着集合村中壮丁，略加训练，各执刀矛和土枪，在村路边严密戒守，等待清军通过。当时村中没有支持防卫的费用，阎锡山便私取继母陈秀卿的首饰出当，换成钱币，作为活动经费。由于戒备较严，清军过后，全村基本安然无恙，没有受到多大损失。事后村里人对阎锡山自有称道。陈秀卿知晓阎锡山私取首饰的举动是为了大家，认为做得很对，未加责备。这件事虽说不大，但经此，阎锡山的“勇敢”得到了充分表现，村中的人对他不得不刮目相看。阎在村中的威信大大提高。
对待义和团运动，阎锡山和当时一般知识分子（包括资产阶级政治代表人物）一样，非但没有能够看出它的伟大革命作用，而是指责它的弱点。当时义和拳盛传“刀枪不入”，他亲身与拳民试验，认为纯属“伪妄”，告诉村民不要相信。但通过八国联军侵略中国和丧权辱国的《辛丑条约》的签订，却使阎锡山看出了清朝政府的政治窳腐和外交无能，为以后赞诩革命，推翻清朝奠定了一定的思想基础。
义和团运动发生以后，阎锡山的读书生活就被迫中断了。这一期间，他追求的理想与自处的环境落差太大。因自“打虎”失败以后，家庭光景越来越不好，作为十七八岁的小伙子不能不考虑为父亲分忧，于是他开始承担一些家务杂活。
8月中旬，八国联军占领保定后，作出了要进兵山西的架势。受侵略军的威胁，在直隶省境内的清军自动向西撤退。9月，德、法、英、意军队果然经易县占领紫荆关，清军退到了山西省灵丘、平型关。此时，距龙泉关以西的五台县也驻有清兵。阎锡山还曾被派到清军营地支差，为清兵担水、切草、喂马，和其他民夫一样挨打受骂，吃尽苦头。
这一下，阎锡山真正才体会到了地位低微的苦楚。
不仅如此，怕到年关，又到年关。原来的债主们漫漫数十里前来讨债，几乎逼得阎家死去活来。其父费了不少口舌才把债主们支走了。
作为年轻气盛的阎锡山，吃苦不怕，却最不愿看到父亲低三下四向别人求饶了。整个春节又没过好，他苦思冥想了几天，寻思着打破这种被动局面，改变家庭地位的新途径。想来想去总觉得“走为上策”。那么“走”，往哪走？走了以后干什么？从事农工商贾都非自己所长，所长者，就是具有了一定的文化。文化不也是一种优势吗？不正是“修身、齐家、治国、平天下”的基础吗？于是他郑重地向父亲建议： 。。
一、年少经商 浪迹省城（2）
凡人从事农工商贾，毕生志虑所及，辛苦所得，多不出家室之谋，钟釜之计。况商复难有成，而易至败，父亲智能虽高，而事多困厄，儿不如父，曷能有望。窃意欲有为于时，有益于世，若不继续读书，多求知识，无以自了，遑论其他。
阎书堂听了阎锡山的建议，觉得儿子的志气宏远而可行，特别对阎锡山提出要到太原去的想法，认为是摆脱债务有益后生的一举两得的高招，于是欣然答应了儿子的要求。这就引出了浪迹省城的一段经历。对此，山西省政协文史资料研究委员会与定襄县政协文史资料研究委员会合编的《阎锡山与家乡》一书作了如下绘声绘色的描述：
过年以后，父子二人眼看在村里待不下去了，便决定南下太原。他父亲打发他先到陈家营他堂舅那里借路费，被堂舅数落了一顿，他一气之下走了，不再借钱。又跑到宏道镇向在那里做买卖的叔父阎书典借钱。阎书典不但不借给，反而说：“好汉做事好汉当，自己跌倒自己爬，你们的商号赔塌了，还想把我也累倒吗？”阎锡山碰了一鼻子灰，又找到他本家叔叔阎书康。阎书康当时也在宏道镇店铺里当店员，虽然赚钱不多，但一听父子俩要借钱外出躲债，就十分痛快地拿出仅有的几个钱来，递给阎锡山，还再三嘱咐说：“回去赶快叫你父亲往省里跑，不要走大路，要绕河北（滹沱河北面）各村走，不要叫人家撵上。”他在阎锡山父子极端困难的时候，以小小店员的力量，尽力设法安慰和救济他们，所以阎锡山父子感恩戴德，始终不忘。
阎锡山回家后，因见盘缠不多，又悄悄拿了他继母的一副银镯子，带在身边。他岳父徐一敬又资助了他一些钱，他妻子徐竹青也把自己做针线活积攒下的一点钱给他凑了数。于是便与父亲连夜背了行李动身出发。走到南作村口（距离河边村十里）时，天已蒙蒙亮，只见一辆铁轱辘车从村里走出来，车上除赶车的外，什么东西也没拉。他父亲走近前打问，才知道赶车的叫薄吉福，要到太原拉废纸。因为去时车是空的，可以顺便拉客人。
阎锡山的父亲知道自己钱少，就央告说：“我们父子俩轮流坐车，算一个人的路费行不行？”薄吉福一问是河边村的，就说：“怎么不行？快上车吧。”于是，把行李放在车上，阎锡山的父亲也上了车，阎锡山跟在车后步行。走了一阵，阎锡山的父亲下了车，让阎锡山坐在车上；又走了一阵，阎锡山下了车，阎锡山的父亲又上了车。薄吉福心里不过意，就和阎锡山的父亲说：“让娃娃（指阎锡山）也上（车）来吧！”阎锡山的父亲摸摸衣袋，忙说：“算了吧，他年轻走得动。”薄吉福知道他是惜钱，就说：“我只收一个人的车钱还不行？”说着，把牲口叫住，停了车，让阎锡山上车。阎锡山怎么也不上，一股劲地说：“我能走，我能走。”薄吉福是个急性人，一听生了气，就说：“你看你这后生，白让你坐车还不坐？邻村上下的，又不是外人。”阎锡山看看他父亲，他父亲看看薄吉福，一句话不说。阎锡山见父亲不放话，就一直站着不动。薄吉福又催了几次，阎锡山的父亲才让他上了车，父子俩都非常感激薄吉福。
走到忻州后，阎锡山的父亲怕太原花销大，就把阎锡山留在“成钰东”药铺。因为过去有交往，“成钰东”药铺的掌柜就让阎锡山在店里帮忙，混口饭吃。 阎锡山的父亲一个人到了太原，落脚在柴市巷“荣庆栈”，靠东求西借过日子。后来，经同乡介绍，与人合伙包揽土木工程。过了一段时间，又在巡抚衙门“稿房”（负责管理收发公文）里找了个闲杂差事，生活才有了着落，把阎锡山也叫到太原。
以上描绘，尽管不乏虚构之处，但基本上反映了处于困境中的阎氏父子的心路。阎锡山到太原后，首先随父亲拜望了同乡魏老五（名仰微），经魏介绍，在太原市最繁华的柳巷“裕盛”商号当伙计。这里活不重，但很忙。由于生活艰苦，不久阎锡山得了伤寒病，无人照顾，多亏岳叔徐一清把他接到家中，请医诊治，日夜照顾，保养月余，才得以痊愈。
一晃又是半年，阎锡山面对现实，不堪回首，逐渐产生对世道不满的情绪。在此他结识了“四海店”伙计黄国梁 、张瑜 。三人出于对世道的不满，经常谈论时政。
二、青年习武 考取武备学堂
1901年（光绪二十七年），当阎锡山为自己的前途感到彷徨时，正值山西复办武备学堂。
我国有陆军学校是在光绪十年中法战争之后。1885年6月20日，李鸿章向清廷正式上奏成立天津武备学堂。这是我国开办的第一所陆军学堂，用以培养专门军事人才。它与其说是洋务运动的产物，毋宁说是中国军事近代化的产物。但是由于清政府的*，迟滞了军事学堂发展的进程。直到甲午战争之后，在北方才又创设了小站随营学堂和开平随营学堂。至于山西，由于风气闭塞，直到1898年间才得以创设，但因义和团运动兴起而停办。直到《辛丑条约》签订后，朝野大练新军的呼声日高，国人痛感“旧式清军不足恃”，一致认为“筹饷练兵为急务”。9月，清政府在实行新政的上谕中强调编练新军的重要性，命令各省将军督抚：“将原有各营，严行裁汰，精选若干营，分为常备、续备、巡警等军，一律练习新式枪炮，认真训练，以成劲旅”。 而要普练新军，就得广建武备学堂，此正所谓：“将才端由教育而成，自非广建武备学堂。” 于是不久清廷又命令各省筹建武备学堂。山西武备学堂正是在全国普练新军声势的推动下，复办起来的。
阎锡山很不甘心自己当伙计的社会地位，本想进入新的学堂深造，作为自己安身立命的阶梯，因此当山西武备学堂的招生简章公布后，他便鼓足勇气，偕黄国梁、张瑜一块报考。
当然，为“时势所趋”，一些有志青年一般认为“欲有补时艰，想为国家效力的途径，只有投笔从戎”。 当时，太原城里仍有旧学，新学也有山西大学堂等，阎锡山报考武备学堂，也说明他受新学与旧学之争的影响，向往新学，并愿意步入军旅，为国效命。
山西武备学堂属于初创，又是新学，入学考试并不很难，试题为“韩信将兵多多益善”，所以阎锡山和黄国梁、张瑜都顺利通过考试，而且，最后在加试中，阎锡山言简意赅的对答，还受到主考官姚鸿发协统的赏识。
武备学堂是培养军人的新式学校，其中能开设的课程有操典、训练等军事科目，还有历史、地理、理化、数学、国文等文化科目。首年武备学堂共招收120名学员，大多是各县应试童生，还有一些秀才。与阎锡山、黄国梁、张瑜三人同时考入的，还有温寿泉、乔煦、姚以价等。阎锡山住“信”字第五号宿舍，