蒙古宪宗八年（1258）二月，蒙哥汗开始了对南宋的总攻击。大军分为两路，宗王塔察儿（成吉思汗幼弟帖木格之子）统率东路军攻打荆襄、两淮，蒙哥汗自己率西路军攻打四川。两路大军十万余人，声势浩大。
在出征前，忽必烈为兄长送行，并希望能够让自己参与南征。蒙哥汗却以忽必烈“腿有病”为借口，让他“留在家中养病”。忽必烈悻悻然返回。
当蒙哥汗一路上攻克诸多要塞逼近南宋四川的大本营重庆时，东路军的塔察儿却在攻打樊城失利后便顿兵不前，数月之中没有攻下一座城池。蒙哥汗大发雷霆，派使者申斥塔察儿，并选择换帅。
同时，忽必烈和他的参谋们也随时关注着前线的战事，听闻塔察儿失利的消息后立即上书蒙哥汗请求统兵。蒙哥汗虽然并没有解除对忽必烈的疑虑，但第一正是用人之际，第二毕竟血浓于水，于是下令：“今可让他率领塔察儿诺颜的军队向南家思（南宋）边境推进。”
接到诏旨后，忽必烈先妥善安排了自己大本营的种种事项，然后带着众多谋臣侍从于蒙古宪宗八年十一月离开开平。蒙古宪宗九年（1259）七月十二日，忽必烈到达汝南，正式接手了东路军，因吸取了塔察儿顿兵樊城之下的教训，他将主攻方向设为江汉。
就在忽必烈接手东路军的同月，蒙哥汗暴崩于金剑山温塘峡（今重庆北碚区北温泉），有记载说他是身患痢疾，有记载说他是被炮石所伤。
九月一日，蒙哥汗猝死的消息传到军中，忽必烈命全军驻扎，为蒙哥汗举哀。很多下属提议立即北还，可是忽必烈拒绝了。他的考虑是：战斗刚刚打响，没有大的进展便回军，会有损自己的威望，自己要继承汗位，就必须有更大的战功。何况，他也不认为留守都城的幼弟阿里不哥有能力和自己争位。
于是，忽必烈挥军继续南下，与南宋军鏖战于鄂州（今湖北武昌）。而在十一月，还在准备继续进兵的忽必烈收到了一封信。
信是忽必烈的大妃察必派人送来的，向忽必烈通报了阿里不哥派人到漠南和中原抽调兵丁的消息，并用隐喻暗示道：“大鱼的头被砍断了，在小鱼中除了你和阿里不哥以外，还剩有谁呢？你回来好不好？”
身边的谋臣们也纷纷进谏，请求忽必烈立即班师：“阿里不哥已行赦令，令脱里赤为断事官、行尚书省事，据燕都，按图籍，号令诸道，行皇帝事矣。虽大王素有人望，且握重兵，独不见金世宗、海陵王之事乎！若彼果决，称受遗诏，便正位号，下诏中原，行赦江上，欲归得乎？”
时间紧迫，不容犹豫。忽必烈立即下令以进攻临安的名义撤掉围攻鄂州的军队，并开始整军北上。
阿里不哥是忽必烈同母所生最小的弟弟，虽然他是“灶主”，继承了拖雷和唆鲁禾帖尼大部分的部众，实力雄厚，而且是蒙哥汗南征之时，受钦命留镇都城主持庶政的“监国”，但第一在他上面有两个战功赫赫，实力也不弱于自己的哥哥，第二他从来没有单独领过军，拿不出什么像样的战功，所以并非一开始就觊觎汗位。但在大势面前，个人的选择往往不能自主。蒙哥汗的死讯一传到哈剌和林，汗廷上下很快便形成了一个拥立阿里不哥为新任大汗的集团。
集团的主要人物，首先是蒙哥汗的儿子们——阿速台、玉龙答失、昔里吉等，他们能力、威望都不足以竞争汗位，为了日后获得更多的好处，便决定拥立小叔叔阿里不哥。其次便是蒙哥汗生前宠信的大臣们，如阿兰答儿、孛鲁欢、浑都海等。他们明白，现在最有实力竞争汗位的是蒙哥汗的三个弟弟忽必烈、旭烈兀和阿里不哥。旭烈兀远在西亚，忽必烈是在当年“钩考”时被强力打压过的。对他们来说，阿里不哥是唯一的、最佳的人选。
于是，阿兰答儿和孛鲁欢作为说客来说服阿里不哥：“忽必烈和旭烈兀二人出征去了，蒙哥合罕把大兀鲁思托付给了你，你有什么想法，难道你想让我们像羊一样被割断喉咙吗？”而跟随蒙哥汗南征的阿速台，更是带着大玉玺，千里迢迢赶回哈剌和林，交给阿里不哥。
权力的诱惑很少能有人拒绝，阿里不哥做出了与哥哥争夺汗位的决定。
正在鄂州鏖战的忽必烈之所以迅速回军，便是因为阿里不哥的第一招：派脱里赤到漠南诸州抽调兵丁，派阿兰答儿到漠北诸部抽调人马，以便控制漠南漠北的主力军队。
可惜，阿里不哥的图谋刚一开始，便走漏了消息。忽必烈的大妃察必便发觉了异状，她一面派使者责问，一面迅速通知了忽必烈。
是年闰十一月二十日，日夜兼程的忽必烈回到燕京，第一时间派出使者对弟弟进行斥责。
阿里不哥等人都没有想到忽必烈回来得如此之快，一时间慌了手脚，为了暂时安抚住哥哥，他只好派使者带着很多礼物前往，表示自己并无他谋。同时，他也提出请忽必烈回哈剌和林，参加库里勒台，商议汗位继承人选。
阿里不哥的支持者都在漠北，又掌握着和林实权，现在兄弟二人已经摊了牌，去和林开会可以说凶多吉少，但要是不去，便是理亏，在法统上也说不过去。
忽必烈左右为难。
谋臣的职责，就是在主君犹疑之时及时地提出建议。廉希宪、商挺立即进言，认为忽必烈不但不应该回哈剌和林，而且应无视传统，立即宣布继承汗位，“今若早承大统，颁告德音，彼虽迁延宿留，便明叛逆。安危逆顺，间不容发，宜早定大计”！
与此同时，成吉思汗弟弟的后裔们，也就是蒙古帝国的东道宗王也在塔察儿的带领下来到燕京。塔察儿是成吉思汗幼弟帖木格嫡孙，所领蒙古千户最多，是东道诸王之长。他倒向忽必烈，所有的东道宗王便都决定了将宝压在忽必烈一方，这也带动了合丹（窝阔台汗幼子）、阿只吉（察合台孙）、只必帖木儿（窝阔台次子阔端之子）等西道宗王。
谋臣的谋划，叔伯兄弟们的支持，使忽必烈下定了决心。中统元年（1260）三月初，在金莲川滦河畔开平城召开了由忽必烈主持的库里勒台，他在会上宣布登基为大汗。
四月，晚了一步的阿里不哥在哈剌和林宣布继大汗位。两位大汗相差不到一个月相继出现，忽必烈向阿里不哥派出使臣宣布自己继位，希望他能够承认，可根本得不到回应。而阿里不哥向各地颁布诏旨表明自己的正统地位，忠于忽必烈的将领和官员也根本置若罔闻。
这个时候，忽必烈和阿里不哥已经不是兄弟，而是必须你死我活的竞争对手。大蒙古国也随之分裂为几大块：忽必烈基本上控制着漠南草原和中原汉地，阿里不哥掌握着漠北，窝阔台的后裔们分别支持二人，他们的封地也便分属两边，察合台汗国的监国兀鲁忽乃王妃和术赤汗国可汗别儿哥基本偏向阿里不哥，而远征西亚的旭烈兀则占据伊朗高原和小亚细亚“自帝一方”，等着哥哥和弟弟最后斗出个结果再表态。
祖宗的家业虽然分成几大块，但要争做家长的战斗主要是阿里不哥和忽必烈之间的事情。如果以军事实力来看，双方相差不大，而且阿里不哥略有优势，汗廷直属军团归其管辖。但忽必烈不仅有东道诸王和五投下支持，中原汉地的汉人世侯的军队和物资也是其坚定的保障。
战争的序幕，在秦陇地区拉开。
按照忽必烈的部署，是漠北为主，秦陇为辅，两路夹击。控制秦陇的原蒙哥汗南征军相当重要，直接关系到自己能否有个稳固的后防。中统元年（1260）四月初，忽必烈派廉希宪、商挺为宣抚使，赵良弼为参议，进入关中组织兵马。与此同时，阿里不哥所派的行尚书省官刘太平、霍鲁怀也来到关中宣抚各地。
兄弟二人都对关中很重视，动作也都很快，可阿里不哥输在自己没有哥哥在汉地世侯中的崇高威望。廉希宪等人派出使者招抚驻军六盘山的浑都海所部失败后，立即果断地联络西京万户刘黑马、巩昌总帅汪惟正两路世侯分头行动，将刘太平、霍鲁怀绞杀于西安，并先后擒杀蒙哥汗派驻成都的将军密里霍者、派驻青城的将军乞台不华，收领了川蜀兵马，完全孤立了六盘山浑都海所部。
中统元年（1260）八月，忽必烈大将八春、汪良臣与支持忽必烈的窝阔台汗幼子合丹合作，在甘州附近的耀碑谷全歼浑都海所部。经此一战，秦陇大定，阿里不哥被砍掉了一条臂膀。
与此同时，忽必烈也在漠北鏖战。
为了能尽快夺回蒙古本土和都城哈剌和林，确定自己的合法大汗身份，在廉希宪等人于关中奋战的同时，忽必烈征调驻扎在淮河的霸突鲁、兀良合台所部，汉军世侯军、诸宗王军共十五万之众，迅速向哈剌和林推进，并击败了阿里不哥派来阻击的军队。
哈剌和林城在忽必烈封锁物资供给之后，已经发生粮荒，物价暴涨，人心离散。阿里不哥困守危城已经是苦不堪言，闻听前方战败，连忙率部弃城，回到自己的封地吉尔吉斯。
以忽必烈用兵的惯例，一定会乘胜进兵，一举全歼阿里不哥残部。但此时的阿里不哥遣使向哥哥求饶，完全是一副小弟弟做错事的口吻，称作为弟弟因无知而犯罪，兄长可以审判，让自己去哪里就去哪里，待养壮了牲畜即去见忽必烈请罪。忽必烈不忍心过于相逼，认为“浪子们现在回头了，清醒过来，聪明起来，回心转意了，他们承认了自己的过错了”。于是派移相哥（成吉思汗二弟哈撒儿之子）领十万军队驻守哈剌和林，自己回到燕京。
中统二年（1261）秋，阿里不哥恢复了元气后，发兵前往哈剌和林，诈称是来投降，对戍守的移相哥军发动突袭。移相哥猝不及防，全军溃败，无奈之下只得南撤。蒙古正统的象征哈剌和林再次落到阿里不哥手中，为了尽快扩大战果，阿里不哥稍事休整后继续南下进逼忽必烈的大本营——开平。
忽必烈对弟弟的出尔反尔大为光火，再次御驾亲征，率以张柔为主的七个世侯所部及塔察儿、纳邻合丹等宗王之军迎战。十一月，与阿里不哥遇于昔木土脑儿之地。
阿里不哥能够夺得哈剌和林，全靠诈降和突袭，一旦与哥哥正面交锋，立即露出不善统兵的缺点。一战下来，阿里不哥麾下大将合丹火儿赤战死，兵士损失无算，全面溃败，奔逃五十余里。其部将阿脱等见大势已去，遂向忽必烈投降。
这一次，阿里不哥的本钱已经赔得十去七八，再也拿不出像样的部队了。忽必烈却再次放了弟弟一马，没有继续追击，说道：“不要去追他们，他们都是些不懂事的孩子，应当使他们明白过来，后悔自己的行为。”但是，他对于弟弟的经济封锁毫不放松，各种物资，尤其是马匹和粮食都严禁买卖。
此时的阿里不哥虽然已经没有可能再和忽必烈争夺大汗宝座，但若是举措得当，如旭烈兀那样“自帝一方”还是有可能的。他却用一系列的昏招彻底把自己搞得山穷水尽。
为了应对哥哥的经济封锁，他派支持自己的察合台系宗王阿鲁忽（察合台第六子拜答儿之子）接管了察合台汗国，囚禁了原监国兀鲁忽乃王妃。他希望察合台汗国能够成为自己的大后方，可是阿鲁忽此人野心不小，稳定了察合台汗国内部之后，羽翼渐丰，就不再听阿里不哥的摆布了。
阿里不哥多次要求阿鲁忽支援武器和粮食，但阿鲁忽置之不理。愤怒之下，阿里不哥领兵攻打阿鲁忽，趁其不备，攻取伊犁河地区及察合台汗国的京城阿力麻里（今新疆霍城西）。阿鲁忽带领残部逃往忽炭（今和田）和可失哈耳（今喀什），不久又迁往撒马尔罕。
阿里不哥总算是有了相当富庶的根据地，若是仔细经营，也可为一方之雄。但他处置政事不公，任意杀害军民，属下诸王、那颜对他大失所望，相继离他而去。不久，阿力麻里发生饥荒，阿鲁忽趁机前来进攻，势单力孤的阿里不哥根本抵挡不住。
后有忽必烈，前有阿鲁忽，阿里不哥以现有的实力和谁都无法较量，只能向其中之一低头。相对于阿鲁忽，忽必烈是自己的亲哥哥，毕竟血浓于水。阿里不哥无奈地做出了自己人生当中最后一次重大的选择。
中统五年（1264）七月，阿里不哥来到开平向忽必烈投降。这场导致帝国崩溃的兄弟相残之战，终于尘埃落定。
投降者与受降者都对对方爱恨交织，阿里不哥与忽必烈相见时，双方都流下了眼泪。相对哭泣了很久，忽必烈才打破沉默，问道：“我亲爱的兄弟，在这场纷争中谁对了呢，是我们还是你们？”阿里不哥的回答意味深长：“当时是我们，现在是你们。”他并不承认自己称汗是错误的，明确地对哥哥表示：你是赢在实力上，而并非道理上。
忽必烈最后也没有难为这个弟弟，让宗王们会同审问后，认为阿里不哥是成吉思汗的子孙，应当予以宽恕。但阿里不哥在第二年便患病死去。
阿里不哥死了，帝国的崩溃却难以遏制。忽必烈的蒙古大汗注定要远远不同于他的前任，蒙哥汗之前，其他汗国与大汗的关系是君臣，从他开始却要成为盟主与盟员的关系。
当忽必烈以“中统”为年号登上大汗宝座时，蒙古帝国的历史便已经结束，而大元朝开始了自己的故事。