受到中原制度的影响，阿保机完全不愿意接受替代。传说在他连任了九年可汗之后，其他具有选举权力的部族首领纷纷要求他让出位置，在一片谴责和讥讽声中，阿保机只好交出旗鼓。但他提出了一个要求，希望自立一部，带着汉人去建立一座城市，作为自己的立身之处。
其他人只希望他赶紧交出旗鼓，很干脆地答应了他的要求。于是阿保机带着自己的部众和许多汉人去了一个盛产盐和铁的地方，在那里耕种五谷，建设城池，一切都如同中原。过了一阵，阿保机在妻子述律后的建议下，骗诸部大人来参加宴会，首领们欣然来到这个富庶的地方，却被阿保机设下的伏兵杀死，阿保机就这样重新夺回了权力。许多契丹早期的历史都以传说的形式保留下来，也有人认为这个故事发生在阿保机招附小黄室韦时期。在这个故事里，除了阿保机的狡黠之外，还可以看出农业经济曾经在阿保机建立皇帝制度的过程中提供过强大的支持。
一些更加确切的记载表明，按照契丹的惯例，可汗与部落首领的更替一般发生在兄弟或者族兄弟之间，而阿保机想要建立的却是一个严密的父死子继的王朝。他的兄弟和族兄弟们觉得自己被剥夺了应有的权力，如果不阻止阿保机，他们将永远失去做首领的机会。在这种不满情绪的左右下，反对者们接连发动了三次叛乱，一次比一次严重。公元911年，阿保机的四个弟弟剌葛、迭剌、寅底石、安端策划改选可汗，但由于安端的妻子事先把这个计划泄漏给了阿保机，诸弟们的计划没有成功。在双方都做出让步之后，阿保机与诸弟们登上高山，祭天地盟誓，宣布赦免诸弟的罪过，矛盾暂时得到缓解。
第二年，在担任于越的辖底以及释鲁的儿子滑哥指使策动下，诸弟们决定再次采取行动，用武力劫持阿保机参加选汗大会并让出首领的位置，但这次阴谋在实施之前又被揭露，阿保机抢先举行了燔柴告天仪式，在已经连任的事实下，诸弟们也只得认可这个结果。
913年三月，诸弟们领导的一场更严重叛乱爆发，阿保机的军队与他们进行了艰苦血腥的战争，虽然最后叛乱被平息，但无论是作战双方还是整个契丹联盟都付出了沉重代价。由于军队后勤得不到充分供应，许多士兵因饥饿而死，社会经济也遭到极大破坏，物价上涨了十倍之多，在这样一个盛产骏马的国度里，人们竟不得不徒步行走。事后阿保机对战争带来的惨状也极为痛心和愤怒，他严厉地斥责了弟弟们，但并没有杀死他们，而将背后的指使者辖底、滑哥以及三百多名支持者处决。
辖底是阿保机的族叔，他从小就总能用自己的聪明善辩获得利益，却缺乏正直的品质，所以也很少得到别人的信任。他的异母哥哥罨古只曾经被推举为迭剌部夷离堇，按照程序，当选夷离堇的人要举行再生礼，但正当罨古只更衣时，辖底却已经身穿红袍，戴貂蝉冠，骑着一匹白马冲出，他的支持者们趁机高喊：“夷离堇到！夷离堇到！”在场的人不知内情，全都拜倒在地，辖底就用这样的手段成了新的夷离堇。
在这次富有戏剧性的事件里，辖底用欺骗的方法获得夷离堇之位，事后竟然没有被追夺职权，也可以看出契丹选举的权威已经荡然无存。阿保机在如此的时代背景中建立世袭制度，理所当然比他的祖先雅里遇到更少阻力。
当阿保机即位时，还曾经礼节性地要谦让给辖底，辖底推辞后被任命为于越。但后来辖底看到阿保机组建“腹心部”，天子威仪贵不可当，就又产生了夺取皇位的念头。他与阿保机的诸弟们互相利用，在接受审判时，双方都表明只是想借用对方的力量，事后再把他们除掉。最终按照契丹的习俗，辖底作为贵族，接受了投崖而死的处罚，其他参与叛乱的三百多名首要分子则根据自己的爱好，尽情饮宴游乐三日，然后被处死。被处死刑的还有释鲁的儿子滑哥，他曾在一次政治阴谋中暗杀了自己的父亲。当时年轻的阿保机对整个事件洞若观火，但他却表示自己会暂且容忍滑哥并授予他官职，等将来再行处罚。现在所有人都认为滑哥罪不可赦，于是他被判凌迟处死。
在这几次叛乱之后，反对者的势力逐渐被消灭，阿保机树立起了更强大的权威。公元916年，他正式建契丹国，自称天皇帝。据说“契丹”在他们的语言中是“镔铁”的意思，从这时起，这个铁一般强大而坚韧的部族在封建化的道路上向前迈出了更为深远的一步。
草原上的改革
应阿保机的要求，富有政治经验的叛乱者辖底曾在临刑前留下了对政局的最后意见。他认为迭剌部人多势强，因此容易作乱，应当分成两部分以削弱实力。而阿保机的得力助手曷鲁在临终前也表达了类似的建议。于是在公元922年，阿保机把强大的迭剌部分成五院、六院两部分，他本人保有直接任命两院夷离堇的权力。两院首领率领着自己的部众驻扎在南部边境，在维护边界安宁的同时又远离政治中心。此外阿保机祖父匀德实三个儿子的后裔被分为孟父、仲父、季父三房，与皇族通婚的拔里、乙室己二族被编为国舅帐，亲族的势力由此被提升，而迭剌部的实力则被削弱。
阿保机懂得汉语，也了解一些中原的政治文化，但却从来不和族人们说起。他崇尚契丹的勇武精神，担心自己一旦表现出了对中原制度的热情，族人们就会上行下效，从此失去剽悍勇猛的特质。为了真正树立契丹的民族文化，他命令大臣参照汉字制定了契丹大字，后来又创造了拼音型的契丹小字，成为辽朝的通用文字，对辽文化的保存和传播起到了很大作用。
在把契丹这样一个松散的游牧民族转变成政治和军事组织严密的国家过程中，许多汉人成了阿保机的得力助手，韩知古、韩延徽、赵思温等人都是其中的代表。他们被阿保机任命为重要的官员，而他们的后代也继续在辽国的政界活动。
在连年的征伐中，契丹得到了许多人口、牲畜和财富，因此更需要尽快建立起有效的管理制度。于是阿保机对契丹部落的组织形式进行了改革，将它们整编成“太祖二十部”，除了保留原有的遥辇八部外，又组成新的部落，让契丹贵族担任部落首领管理新归附的游牧人口。改编之后，阿保机加强了对旧贵族的控制，又让各部落之间相互制约，形成有效的势力平衡，加强了契丹政权的稳定性。
仿照唐朝“赐姓”的做法，阿保机对曾经作过部落联盟首领的大贺氏和遥辇氏也赐以国姓“耶律”，希望能起到有效的笼络作用。他提高了本家族和妻族的地位，让重要的职位控制在他们手中，加强了自己的权力。
随着契丹境内的汉人越来越多，阿保机采取了相应的各种措施来适应新的形势。不但在经济政策上努力适应，还广泛设立市场，开展通商贸易。在草原地区建立了许多城镇、寺庙，安置掠来的汉人和僧尼，还按照汉地的习惯，学会了广刻碑铭以彰显自己的功德，树立个人权威。在当时的汉人看来，契丹人还保留着许多奇怪的习俗，比如父母去世之后，以不哭为尊重；又将遗体运进深山，放在大树上，三年之后去捡来遗骨火化，一边洒酒祭奠一边祈祷，希望自己能获得更多的猎物。而在契丹人看来，汉人的制度和文化里也有许多新奇的东西。在逐渐进行的交流和融合中，契丹的习俗和传统渐渐发生变化，阿保机还向中原借鉴来了吉凶仪和孔子庙，又制定了系统的法律、官职和婚嫁礼仪。
许多汉人来到草原以后，形成了新的居住地和聚集区，这些地区以他们的原籍命名，渐渐就形成了草原上的州县。在早期，这些州县只是皇亲贵族和功臣们的私属领地，被称为投下州县，但后来州县越来越多，终于形成了专有的地方政权组织形式，以管理有固定居住地的农业人口。为了分别对汉人和契丹人进行有效的统治，阿保机又在朝廷设立了汉儿司，专门管理汉人事务。从此以后，针对汉人的汉制和针对契丹人的草原行国体制并行运转，后来终于发展成了胡汉分治的南北面官制。
公元918年，阿保机在汉人的帮助下修建了都城上京。这是一座借鉴中原城市的特点，并有效兼顾农耕民族特点的城市。城的北半部是皇城，包括宫殿、衙署、寺庙等机构，西北部保留有空阔的地面，用以照顾民族习俗，安扎帐篷。南城是居民区和作坊，居住着汉人、渤海人和回鹘人，还有供使臣居住的驿馆。在这座城市里，已经能够看出契丹兼收并蓄的大国风貌，并体现出作为一个多民族政权的特色了。
阿保机的家庭关系
在称帝之后，阿保机借用古老传说中三皇的名称，分别以天皇帝、地皇后和人皇王作为自己和妻子、长子的尊号，以此确立权威。青牛白马的故事也被借用过来，据说当述律后出行时，契丹母权的象征——乘青牛车的仙人为了不妨碍她的出行，从路中间突然消失。这个故事在部众间流传开来之后，人们对阿保机家族的天赋权力更加深信不疑，游牧民族中对女性参政的限制本就不像中原王朝那样严格，述律后从此更成为地神化身，与天神的化身阿保机一起拥有至高无上的地位。当来自后唐的使臣在契丹朝见阿保机时，他发现契丹的皇帝竟然和皇后对坐在穹庐中接见自己，感到非常吃惊。更令汉人无法想象的是，述律后竟然不向自己的母亲和婆婆行礼，而是坐在榻上接受她们的朝拜，按照这位皇后的说法，她只拜天而不拜人，人们应当向她的权力致敬。
以天、地、人皇的顺序来看，阿保机的长子耶律倍似乎更有理由继承皇位，但最终的继承者却是次子耶律德光。这两人都拥有引人注目的能力与功绩，阿保机也曾按游牧民族的方式对他们进行过考察。他让三个儿子都去捡柴，结果耶律德光捡回了所有能见到的柴草，最早回到父亲身边；耶律倍在经过仔细的挑选�