1259年，蒙哥在合川钓鱼城下殒命，蒙古的军事扩张随之退潮。蒙哥的突然离世，还来不及留下遗言选出下一任继承蒙古大汗的人，所以，在汗位虚悬的空档，拖雷家族内部发生了代表两种不同势力的大汗争夺战。蒙哥的两个弟弟，忽必烈和阿里不哥，都想继承汗位。当时，蒙哥的另一位同母弟旭烈兀已经在西亚建立了自己的帝国，故而没有参与这场汗位的争夺。虽然他并没有对竞争结果产生决定性的影响，但是他更希望哥哥忽必烈问鼎大汗宝座。
其实，忽必烈代表着巩固汗国统治意愿的番汉联合意志，而阿里不哥代表蒙古正统意志。两种不同势力的纷争，必然围绕蒙古在后蒙哥时代的发展走向而产生分歧，最终的结果必然是分裂。阿里不哥与忽必烈是同母兄弟，为何会有这样大的差距呢？其实，当时拖雷的众多儿子们已经深入到中国的南方和西方文明的中心，可是阿里不哥却留在了蒙古故乡。正因为没有出去历练的原因，使得阿里不哥的生活视野受到了限制，因而比较狭隘。
阿里不哥比较喜欢一望无际的大草原，而不喜欢依赖耕作维生的农业世界。他成了一位蒙古传统生活方式和价值观念的捍卫者，蒙古保守分子的一位领袖。面对越来越多的蒙古人喜欢定居生活方式，保守分子觉得无依无靠被孤立了，并觉得受到了威胁。这些人认为，忽必烈和旭烈兀属于叛逆分子，因为他们被征服地的文明所吸引，寻求属民的建议和帮助，把大部分时间花在中原或波斯，而不是蒙古本土。忽必烈和旭烈兀以及其他蒙古领袖所发生的变化令他们感到心惊胆战，于是这批愤愤不平的保守派转向阿里不哥，希望他成为他们的代表。
蒙哥的突然离世，使得戍守哈拉和林的阿里不哥看到了希望，他想要趁长兄忽必烈率军攻取鄂州，次兄旭烈兀率军攻叙利亚之机，谋夺汗位。他令左丞相阿兰答儿征兵漠北，燕京行省脱里赤征兵河朔，企图将忽必烈的领地控制在自己的手里。忽必烈闻讯后，立即率兵北归。
1260年初，忽必烈从蒙、宋前线匆匆北返抵达燕京，他在燕京附近驻扎了将近三个月。在这段期间，阿里不哥竭力诱使忽必烈回到草地，好逼迫他离开经营多年的中原，夺取忽必烈的兵权，再名正言顺地登上大汗宝座。忽必烈清楚地意识到，在阿里不哥鞭长莫及的情况下，自己在控制和调动进入汉地的蒙古军及汉军方面拥有莫大的优势与便利；因此，他并没有像原来计划的那样，前往哈拉和林会丧、参加选汗大会，而是先发制人，拘禁了阿里不哥派往燕京的心腹脱里赤，并立即解散了脱里赤所召集的军队。同时，支持忽必烈的耶律铸和亲王末哥也逃离了哈拉和林，来到了新筑不久的开平城，投奔忽必烈。
拥戴忽必烈最积极的宗王是成吉思汗幼弟斡赤斤的孙子、在东道诸侯中居长的塔察儿，他曾因攻南宋无功而返，受到蒙哥的严厉训斥。早在事态还相当微妙时，忽必烈就派廉希宪到军前结欢于塔察儿，相约“若至开平，首当推戴，无为他人所先”。这为日后由塔察儿“率先”，从而诱逼在场的其他宗室“相继劝进”安排了最关键的一招。
同年三月初一，忽必烈率领蒙古劲旅抵达开平。西道诸王合丹以及东道诸王塔察儿等前来会合，忽必烈在这里召开了库里勒台大会。出席大会的有以亲王末哥为首的诸弟，以塔察儿、也松哥为首的东道诸王，以阿必失哈（察合台曾孙，不里长子、阿只吉长兄）、合丹、哈必赤（铁木真侄子、合撒儿子）为首的西道诸王共四十余人，还有以霸都鲁、兀良合台、失吉忽秃忽为首的蒙古大将，以按陈为首的几位驸马，以及刘秉忠、姚枢、郝经、王文统、廉希宪等各族谋臣，史天泽、张柔、张弘范、李璮等汉军七大万户，以及吐蕃和大理的代表等。会议共进行了24天，诸王贵族一致同意拥立忽必烈为蒙古帝国大汗，并举行了隆重的即位仪式。
忽必烈即位后，立即派出一个百人使团，向阿里不哥“告即位”。他抢先在漠南即位，完全打乱了阿里不哥的阴谋；阿里不哥自然是不承认忽必烈的大汗地位，扣押了这个百人使团，并立即召集自己的支持者在哈拉和林举行库里勒台选汗大会，推举自己为蒙古大汗，随后派两支军队南下讨伐忽必烈。忽必烈只好御驾亲征，一场内战不可避免地爆发了。
蒙古帝国出现了两大汗相抗衡的局面，站在忽必烈一方的是有影响力的东道诸王，而阿里不哥则从西道诸王那里获得支持。尽管当时正在经营西亚的旭烈兀和立国于伏尔加河流域的拔都与别儿哥，态度都不无暧昧之处，然而替旭烈兀留守漠北分地的阿里不哥的次子药木忽儿，最初是支持阿里不哥的；而且别儿哥冲制的钱币上刻有阿里不哥的名字，更表明钦察汗国在阿里不哥失败前，一直认为只有阿里不哥才真正代表了蒙古大汗的世系。
成吉思汗直系各支宗王的政治态度对忽必烈颇为不利。为改变此种局面，忽必烈先派支持自己的察合台后王阿必失哈急驰西北，企图用他控制察合台兀鲁思（分地）的政局，使之与中原汉地势力互为犄角，钳制漠北。阿必失哈一行在途经河西时，被阿里不哥的军队截留，察合台兀鲁思落入阿里不哥派去的阿鲁忽（察合台之孙、拜答儿之子）之手。
不久，阿鲁忽和旭烈兀渐与阿里不哥生隙，忽必烈抓住时机，以明确承认二者在各自势力范围内的既有权益为条件，争取他们对自己的支持。他宣布自阿姆河西到马木鲁克疆界的塔吉克地当归旭烈兀统治守卫；自阿勒泰山到阿姆河之地则由阿鲁忽镇守。至此，除术赤后王早已分治于钦察草原之外，突厥斯坦西部及河中地区、波斯和呼罗珊也正式从大汗直接领有的国土中分立出来，成为中央汗廷的守藩之国。之后，忽必烈与西道诸王的关系基本和解，于是，他得以全力对付阿里不哥。
同年秋，阿里不哥兵分两路，大举南下。忽必烈与阿里不哥在哈拉和林的郊外摆下了战场。阿里不哥的左路军以宗王为帅，而且直接威胁汉地政治经济中心燕京，因此，忽必烈亲自领军逆之，而以移相哥（铁木真二弟拙赤合撒儿之子）、纳邻合丹（铁木真三弟合赤温之孙）为其前部。移相哥军击溃了药木忽儿和哈剌察儿（窝阔台第四子），阿里不哥难以继续立足于哈拉和林，匆匆退到由他继承的拖雷分地吉里吉思。忽必烈大概是循帖里干道，顺利进至哈拉和林。
当时哈拉和林城被破坏得相当严重，所以到达不久，忽必烈便南至汪吉河冬营地，做短期休整。阿里不哥很担心忽必烈会乘胜追击，于是派遣使者假意投降，并称待马力稍复，再赴阙谢罪。忽必烈深以汉地政局为念，于是留下移相哥镇守漠北，自己则冒严寒逾漠南返。溃败远遁的阿里不哥，歇息于吉里吉思。
中统二年（1261年）秋，忽必烈因贾似道背信弃义，扣押了蒙古帝国的议和使团郝经一行，准备南下伐宋，并颁发了一份讨宋檄文。阿里不哥元气稍有规复，又举兵东来。他事先遣使向移相哥伪称率众来归，使移相哥疏于防备，因而突袭成功；移相哥大军溃散，哈拉和林城再次失守。
同年十月，忽必烈率诸路汉军与蒙古诸王所部再度北征。两军相遇于昔木土脑儿(今内蒙古东乌珠穆沁旗西北)之西，阿里不哥先因所部军队溃败撤兵，等待阿速台率领的后继部队赶到后，回军再战。其右翼被击败，左、中两翼与忽必烈军鏖战至夜仍不分胜负，于是双方引军后退，相峙于大碛南缘。
同年冬末，忽必烈师还，“诏撤所在戍兵，放民间新签军”，形势似乎缓和下来。1262年，据守哈拉和林的阿里不哥因粮饷不继，而由他派往察合台兀鲁思的阿鲁忽又拒绝听命，截留他征集的货物，因此愤而移兵西讨阿鲁忽。阿里不哥自知一旦挥兵西指，哈拉和林终将不守，所以临行前，指令哈拉和林城诸长老，许其举城归降忽必烈军。阿里不哥西徙后，忽必烈所部果然不战而收复哈拉和林。忽必烈直到126*年才战胜阿里不哥，随后迁都元大都（北京），以上都为陪都。