军至赤亭，数万羌骑包围了这座堡垒。
羌人的进攻开始了。汉军的常用战法是先用强弩射杀。可虞太守却下令用小弩射击。羌人见状，以为汉军矢力不足，大为振奋，加紧了进攻。十天以后，虞翊突然命令：每二十张强弩共射一骑。强矢呼啸，发无不中，羌人震动，一哄而溃。汉军鼓噪出击，杀伤甚多。
次日，虞翊大开塞门，布列行阵，摆出一副决战的姿态。羌人也严阵以待，观其动静。他们看到三千多穿着青色号衣的汉军从东门开出，巡行至北门而入；继而又见三千穿着黑色号衣的汉军从北门出，从西门入；又有三千穿红色号衣的汉军从南门出，从东门入；最后，三千穿白色号衣的汉军从西门出来，向羌人阵前挺进。
羌将急忙传令：这是汉人的五行之阵，汉军众多，不可抵挡，速速后退！
数万人的军队一旦退后，行阵立即乱了起来，行至一处浅滩，中了汉军的埋伏，杀声四起，沙尘滚滚，不辨敌我。羌人大败而走。
虞翊大笑，他的伏兵只有五百，而列阵的也只有三千，之所以吓坏了羌人，是因为这三千人不断地更换衣服的结果。
羌人退后，虞翊在有利地形构筑了堡垒一百八十多所，又招抚流亡的汉人，赈济贫民，开通水运。三年以后，武都郡粮食由每石千钱降到八十钱，人口由一万三千户增加到四万多户。
元初四年二月，护羌校尉任尚招募当阗羌酋长榆鬼刺杀了杜季贡，封其为破羌侯。九月，招募效功羌酋长号封刺杀了滇零羌酋长零昌，封其为羌王。此后，护羌校尉马贤又取得了一系列的胜利，至延光元年（122）三月，马贤大破烧当羌麻奴部落；十一月，麻奴降伏。延光三年，麻奴死，其弟犀苦继位。第一次大羌乱结束。
第二次大规模羌乱发生于孝顺皇帝朝永建六年（131），护羌校尉韩皓在河湟地区大规模地屯田，逼迫羌人西移，并且拒绝了犀苦酋长返回河湟故地的要求，引起了羌人的恐慌，相互解仇交质，加紧战备。朝廷为了不扩大事态，召回韩皓，以马续代之，收缩屯田，解除了羌人的疑虑。阳嘉元年（132）至二年，朝廷又在湟中扩大屯田。次年，钟羌反叛，被马续击破。永和四年（139），烧当羌酋长那离反叛。五年，新任护羌校尉马贤斩杀那离。六年，朝廷命来机为并州刺史、刘秉为凉州刺史。临行前，大将军梁商召见他俩，面授机宜：“戎狄蛮夷，皆处于要服和荒服之中，这是因为他们恍惚无常。统领他们的关键，在于没有常法，临事制宜，随其风俗。你们二位一向疾恶如仇，凡事一定要搞得黑白分明，这不好。孔子说过：‘对于没有仁义的人，如果不因势利导地改变他，而是一味地痛恨他，只能更加激发他为非作歹。’何况，你们面对的是戎狄呢？二位务必安抚羌胡，防其大敌，忍其小过。”
大将军的担心一点都不多余，这两个人都是天生的虐刻，可惜大将军忽略了江山易改、本性难移的道理。他们一到任，就搞得羌人鸡飞狗跳。且冻羌与傅难羌攻打金城郡并与一些杂种羌胡大寇三辅，原来被迁至三辅的羌人由于不堪忍受汉人压迫，纷纷响应，一时边塞大乱，来机、刘秉被朝廷召回下狱。
天子拜马贤为征西将军，以骑都尉耿叔为副，将左右羽林、五校营士和州郡兵十万人进屯汉阳。大将军对这一人选有意见，他认为马贤太老了，可天子不听。马贤果然老而昏聩，迟留不进。这时，卢植将军的老师、关西大儒、时任帝国武都太守的马融上书天子，认为羌人卒然而合，并没有严密的组织，应当快速进军，深入打击，使其党羽离散。可是马贤队伍庞大，处处稽留，使得羌人百里望尘，千里听声，回避前锋，抄袭后路。马融提出：借给自己五千名马贤不可用的关东兵马，配给番号，组成先锋敢死队，臣虽不习武事，三月之内，也能破敌。最后，马融汇报说：“臣闻从前吴起为将，暑天不打伞盖，冬天不披裘衣，而马贤行军至野外，垂盖张幕，罗列珍馐，妻妾侍从，事与古反。臣害怕他专守一城，说着打西边而羌人却从东边出来，长此以往，将士不堪，必定奔溃叛变。臣夜观天文，北方并州的分野有兵象，可能北方的乌桓、鲜卑也要有动作，朝廷宜有准备。”
书奏之后，安定郡朝那县的布衣之士皇甫规也上书，报告马贤不恤军事，其势必败。
朝廷均未准奏。次年正月，马贤与且冻羌战于射姑山，贤及二子战没。三辅一带的东羌与金城、陇西的西羌大会合，将战火连成一片，长安的苑马和先帝的园陵都遭到抢掠和焚烧。
三月，新任武都太守赵冲追击巩唐羌，斩首四百余级，降二千多人。朝廷为之一振，诏赵冲总督河西四郡兵马。
皇甫规在这次羌乱中入伍从军，担任功曹，这是一个下级军官，可他却率八百甲士一仗斩首数级，威震羌胡。升为安定县计掾。他奋笔疾书，上奏天子，要求委以重任：“臣近年来，屡陈破羌之策，不幸误中，皆可检验。臣每每念及马贤等人拥众四年，未有成功，而悬师之费，以百亿计数。出于平民，回入奸吏。故而江湖之人，群聚为盗；青州徐州，饥荒遍地，人民襁负流散。羌戎溃叛，并非由于国家承平太久，皆是由于边将失于绥御，平常无事则加侵暴，贪图小利则致大害，小胜则虚报斩首数目，兵败则隐匿不言过失。军士劳怨，困于猾吏，进不得速战，为国立功；退不得温饱，以全性命。饿死沟渠，暴骨中原，徒见王师之出，不见振旅之声。羌酋泣血，惊惧生变，所以和平不能持久，叛乱却是经常。这一切，都使得为臣搏手叩心而长吁短叹！愿天子借给臣两营、二郡五千兵马，出其不意，与赵冲将军首尾相应。这里的土地山谷，臣至为熟悉，兵法战术，臣亦略通，朝廷可不烦方寸之印，尺帛之赐，上可以涤患，下可以纳降。倘若认为臣年少官轻，不足为用，请看那些败将们，哪一个不是资深的高官？臣不胜至诚，冒死自陈。”
这封上奏未能奏效，但却显示了皇甫规的雄才大略。
建康元年（144）春天，护羌校尉赵冲的从事马玄随羌人叛变，逃亡出塞，中了马融的预言。赵冲追击叛羌至建威，渡河之际中了埋伏，战死阵前。但此时，由于前些年的残酷争夺，羌人也元气大伤，走向衰落。次年，孝冲皇帝即位元年，左冯翊行政长官梁并以恩信招诱羌人，降伏五万多户，边塞形势又趋平缓。
财政部门上报这次平叛开支达八十多亿。
自孝桓皇帝延熹二年（159）起，爆发了第三次羌人大叛乱。而此际，臣服已久的南匈奴、遗留故地的北匈奴残部、几百年前被匈奴击垮，现在再次崛起的东胡乌桓与鲜卑，纷纷乘机寇掠边境，大汉的整个从东到西的北部边境，狼烟突起。
十二月，烧当、烧何、当煎、勒姐四大部落率八个羌人部落攻入金城、陇西郡。护羌校尉第五访恰恰病卒，帝国政府将刚刚击退犯塞鲜卑的辽东属国都尉段锴（字纪明）将军调至此任。段纪明将军更像一个职业军人，不同于那些儒将们，仅仅把武力当作手段，把羌人的臣服当作目的。他只从战争的实际利害出发，认为帝国应当不惜破费，以驱逐和殄灭为目的，大举进攻羌人。他手下的田晏和夏育，都是猛将，带着一万二千汉人和义从羌骑，出湟谷，一路追杀，斩首二千级，生俘万余人。次年，段将军在张掖与烧何羌大酋长相遇，从日出杀到日中，杀得段纪明眼发红，从马上下来与羌人格斗，汉军刀折矢尽，羌人更是吃不消，呼啸而走。段将军咬住不放，且斗且追，昼夜相攻。军中无粮，段将军让大家杀马饮血，继续追击。四十天后，汉军追至塞外二千里的积石山（今阿尼玛卿山）。羌人大怒，这座大雪山横阻了去路。他们根本没有想到，汉军会穷追到这么远的地方。他们的前辈们曾经告诉他们，与汉人作战，只要逃至塞外不毛之地，汉人就不会来了，积蓄几年之后，再去攻打边塞。
段将军和当时的一切汉人一样，认为积石山是黄河之源，他异常激动，勉励将士，不可功亏一篑。最终，汉军斩杀烧何羌大酋长，斩首五千多。回兵之际，段将军又攻击石城羌的部落，斩杀一千六百人。进击白石杂种羌，俘虏三千多人。烧当羌眼见战火将烧至自己的部落，急忙投降。
延熹四年冬天，先零、沈氐二羌进攻并、凉二州。凉州刺史郭闳怕段纪明占了全部的功劳，以种种借口，阻止他进兵。由于军队长时间稽留，军中的义从羌骑兵思念家乡，纷纷叛逃，而郭闳反而归罪于段纪明。段将军退出战事，坐着囚车到了京师，判处苦役。朝廷以济南相胡闳代其职务。胡闳毫无威略，羌人再次大举进犯。陇西及金城的吏民们纷纷至京师上访，为段喊冤。朝廷只得对他的案子加以复审，可段纪明只是谢罪，不喊一声冤枉，在京师的吏民当中赢得了“长者”的声誉。朝廷只好维持原判。
这时，朝廷起用了皇甫规将军。诏拜中郎将，持节督关西军马。第一仗，斩首八百余级，先零羌降伏达十多万。
延熹五年，沈氐羌入寇张掖、酒泉。皇甫规发动先零降羌与汉军共击叛羌。行军途中，发生了瘟疫，死者十有三四，可皇甫将军凭借他的威望，亲巡将士，因而无一人叛逃。军队未至，叛羌遣使乞降。皇甫将军是儒将，因而更懂得：战争不过是一种无可奈何的政治手段，而政治的根本还在大汉本身。他不仅用树立好的政治形象的方法赢得羌人的归降，而且着手惩治贪婪残暴的地方官吏，以平息羌人乃至当地汉族民众的愤怒。因此，当他雷厉风行地查办了凉州刺史郭闳、汉阳太守赵熹、安定太守孙俊、属国都尉李翕、督军御史张禀等人之后，沈氐羌的大酋长阗昌便率领十余万口前来�