着吐蕃、回鹘、吐谷浑、龙家、仲云等许多少数民族政权，从东、南、西三面对归义军构成威胁。唐朝廷不授给他节度使旌节，表示不支持他当节度使，那么归义军内部必然会有一些窥觑权势的人蠢蠢欲动，内忧外患下，他难以兼顾。可以说，唐朝廷迟迟不授张淮深节度使旌节正是后来造成河西动荡的根源。
此后，西域的回鹘再次叛唐，引兵进犯肃州、酒泉、西州地区。张淮深率河西军民英勇反击，活捉回鹘首领，俘获士卒千余人，并表奏朝廷。唐朝廷派遣左散骑常侍李众甫、供奉官李全伟等上下九使，先后几拨人马，赐给张淮深金银器皿、锦绣琼珍等各种各样的贵重物品，唯独没有授予张淮深一直请奏的节度使旌节。但张淮深并没有心怀怨望，继张义潮后尽力经营河西，多次打退了各族对河西地区的进犯，其文治武功不下张义潮。
张淮深屡次遣使唐朝，求授旌节均未能如愿。光启二年（887年），张淮深第三次派使者入唐求授节度使旌节，唐朝廷依然没有同意，从而引发了归义军内部的权力争夺。文德元年（888年）十月，唐朝廷最终授张淮深归义军节度使旌节，但归义军内部的矛盾已经激化。大顺元年（890年），张义潮女婿、沙州刺史索勋悍然发动了兵变。由于变生肘腋，猝不及防，张淮深及妻子、六个儿子都被杀死。
张淮深的叔伯兄弟张淮鼎继任节度使。可惜，张淮鼎这个节度使还没当几天，就得了重病。临死前，张淮鼎将孤子张承奉托付给索勋。但索勋却没有遵守诺言奉张承奉为主，而是自立为归义军节度使，并迅速得到唐朝廷的认可。由此可见，之前张淮深和唐朝廷的矛盾已经达到相当深的地步。至于索勋兵变背后的种种真相，因中原史籍少有资料，不好妄自推测，读者可以自己去想象。但是可以肯定的有一点，以张淮深在河西的威名，背后支持索勋的势力一定相当强大。事实上，拉一派打一派，以夷制夷一直是中原王朝对边疆少数民族惯用的手法。
张义潮第十四女李氏（凉州司马李明振之妻）对姐夫索勋擅自诛杀张淮深一家，用武力夺取河西大权极为不满，以“靖难”名义发动兵变，杀死索勋一家。李氏拥立张承奉为归义军节度使，“赖太保神灵，辜恩剿毙，重光嗣子，再整遗孙”。但李氏三子分别任瓜、沙、甘三州刺史，掌握着归义军的实权。到最后，李氏甚至连表面文章都不做了，排挤走张承奉，独揽了归义军大权。
李氏家族的行为引起了一些河西大族的反对，于是沙州出现了一场倒李扶张的政变。张承奉夺回了归义军实权，任归义军节度副使。但归义军的内讧给活动在其周边的少数民族提供了可乘之机，甘州被回鹘攻占，占据肃州的龙家也不再听从归义军的号令。凉州因有甘、肃二州相隔，实际上也脱离了归义军的控制。此时，归义军的辖境已缩至瓜、沙二州。
光化三年（900年）八月，唐昭宗下诏，追认了既成事实，诏令说：“制前归义军节度副使、权知兵马留后、银青光禄大夫、检校国子祭酒、监察御史、上柱国张承奉为检校左散骑常侍，兼沙州刺史、御史大夫，充归义节度，瓜、沙、伊、西等州观察处置押蕃落等使。”
至天复年间，张承奉还一直任河西节度使，奉唐为正朔，终唐之世，辛苦地经营河西，亦可谓不忝祖德。天祐年间，朱温挟天子而令诸侯，群雄逐鹿中原，唐朝已经名存实亡。开平四年（910年），张承奉见唐朝灭亡，遂自立为白衣天子，建号西汉金山国。“西”乃指其国所居之方位，是以中国为坐标；“汉”乃是言其国民族之属性；“西汉”连用，意为西部汉人之国。“金山”又名金鞍山，在敦煌西南，即今甘、青、新三省交界处之阿尔金山。从国名也可推断出，张氏子孙依旧不忘自己是汉族子孙。
张承奉建立金山国后，不甘坐守瓜沙二州，想用武力恢复归义军兴盛时的旧疆。然而，他锐意进取，想收复失地，却在战争中屡遭失败。连年的战争使瓜沙地区经济凋零，不少百姓家破人亡，境内“号哭之声不止，怨恨之气冲天”。恢复祖上的荣光已经毫无可能。
金山国建立的当年，回鹘多次对其进行打击，企图把金山国扼杀在摇篮里。有一次，敦煌东界的防线都被突破，回鹘军长驱直入，直抵敦煌城东安营扎塞。金山国天子则亲自披甲上阵，著名将领阴仁贵、宋中丞、张舍人等奋力应战，才把入侵的回鹘赶回甘州。
一年后，回鹘大举进攻金山国，金山国由于连年战争国力衰微，不得不与回鹘立城下之盟：回鹘可汗是父，金山国天子是子。从此，张承奉被迫取消“西汉金山国”国号和“圣文神武白帝”、“天子”之号，并在甘州回鹘的恩准下，屈尊降格而改建为诸侯郡国——敦煌国。张承奉对回鹘的臣服，使他彻底丧失了在河西地区的威望。
乾化四年（914年），沙州的另一个大族曹氏家族中的曹仁贵（后改名曹议金）取代了张承奉，废金山国，去王号，恢复了归义军称号，仍称归义军节度使。此后归义军政权一直把持在曹氏家族手中。
曹仁贵有着极为高明的外交手段，非常擅长见缝插针。他自任为归义军节度使后，立即派遣使者到甘州，求娶回鹘可汗女为妻，又将自己的女儿嫁给甘州回鹘可汗，用联姻来笼络回鹘。贞明四年（918年），曹仁贵派使者出使后梁，受到封赠。同光三年（925年），曹仁贵趁甘州回鹘汗位交替之机，进行征讨，使其屈服。新立的回鹘可汗又娶曹仁贵之女，成为曹仁贵的女婿。
由于曹仁贵对内对外关系处理得妥当，此时的归义军实力有所恢复。长兴二年（931年），曹仁贵号称“令公”、“拓西大王”，归义军成为独立王国。之后，曹仁贵还将女儿嫁给于阗国王李圣天。
清泰二年（935年），曹仁贵病死，其子曹元德继位。沙州入朝中原的使臣在甘州被劫，归义军与甘州回鹘的关系破裂。天福四年（939年），曹元德卒，弟曹元深继位，曹仁贵妻（回鹘公主）掌握归义军实权，称“国母”。之后，沙州与甘州回鹘修好。
天福九年（944年），曹元深卒，弟曹元忠即位。曹元忠是归义军节度使中统治时间最长的一位，也是文化比较昌盛的一个时期。曹元忠积极发展与周边民族的关系，并与中原的后晋、后汉、后周和北宋保持联系，使瓜州地区得以在五代、宋初复杂的民族关系中得以生存、发展。
开宝七年（974年），曹元忠卒，侄曹延恭即位。九年（976年），曹延恭卒，弟曹延禄即位。
曹元忠以后，归义军政权开始逐步衰落。沙州地区的回鹘势力在这一时期却得到了迅速发展，成为与归义军政权抗衡的重要力量，归义军内部也出现了矛盾。咸平五年（1002年），归义军再度与甘州回鹘发生战争，引起瓜沙民众的不满。归义军内部发生兵变，曹延禄及弟延瑞被迫自杀，其族子曹宗寿即位。宋朝廷承认了曹宗寿。但此时，归义军已经开始与辽通使。
景德三年（1006年），信奉伊斯兰教的黑汗王朝灭掉了信奉佛教的于阗王国。消息传到沙州地区，寺院僧人十分恐惧。因为此时归义军政权已经不堪一击，任何外来的攻击和内部的动乱都足以使其倾覆。在伊斯兰教东进的威胁下，莫高窟的一些寺院将重要的经卷和佛像、幡画等集中起来，藏在隐蔽的洞窟中，并将洞口封闭。之后由于当事人和知情者先后去世，藏经洞的秘密逐渐不为人所知，湮没在历史的长河中。这就是后世发现的敦煌“藏经洞”的来历。
大中祥符七年（1014年），曹宗寿卒，子曹贤顺即位。1036年，西夏攻占沙州，归义军政权基本结束。
英雄立马起沙陀（1）
1964年12月29日，毛泽东在给田家英的信中说：“近读五代史唐庄宗传三垂冈战役，记起了年轻时曾读过一首咏史诗，忘记了是何代何人所作。请你一查，告我为盼！”为了便于查对，毛泽东还凭记忆书写了《三垂冈诗》：“英雄立马起沙陀，奈此朱梁跋扈何。只手难扶唐社稷，连城犹拥晋山河。风云帐下奇儿在，鼓角灯前老泪多。萧瑟三垂冈下路，至今人唱百年歌。”又在诗后注明：“诗歌颂李克用父子”。
毛泽东手书的这首咏史诗，除了将诗题《三垂岗》中的“岗”（据《旧五代史》、《新五代史》）误写为“冈”外，还有两处笔误：一处是第四句“连城犹拥晋山河”中的“犹”（应为“且”）；另一处是第七句“萧瑟三垂冈下路”中的“冈下”（应为“岗畔”）。全诗其他各字准确无误。毛泽东在许多年的戎马倥偬后，仍能清楚地记起年轻时读过的这首咏史诗，可见对它印象之深刻。在晚年，毛泽东曾对身边的工作人员说：“我现在是鼓角灯前老泪多。”
《三垂岗》一诗为清朝诗人严遂成所作。严遂成虽然在清朝的诗人中名气不是很大，但他的咏史诗却写得很好，“长于咏古，人以诗史目之”，“格高调响，逼近唐音”。在这首七律中，寥寥数语不仅道尽了后人对前朝历史人物和古战场的凭吊和沧桑感，更勾勒出李克用父子气盖万夫的英雄风貌，气势宏阔。
一代伟人毛泽东所瞩目的“李克用父子”，就是五代时期后唐开国之君李存勗和他的父亲李克用。在群雄逐鹿的末世，李克用父子确实上演了一场威武雄壮的大戏。而之所以选择将李克用单独成篇，是因为李克用始终奉唐为正朔，即便朱温篡唐建立后梁，李克用拒不承认，仍袭用唐“天祐”年号。李存勗后来称帝，深知父亲的心意，于是仍然以唐为国号，史称后唐。
李克用最早的崛起，是因为镇压庞勋领导桂林戍卒起义，当年他还只有十五岁。他正式登上大唐的政治舞台，为朝野所瞩目，则是因为云州事变。
唐僖宗乾符五年（878年），代北发生饥荒，云州（今山西大同）防御使段文楚乘机削减军粮、