司马颖在司马腾快兵临城下的时候才知道，攻打邺城的不光王浚和司马腾，他们还联合了鲜卑首领段务勿尘。三路大军来势汹汹，瞬间让司马颖将他对刘渊所表现的信誓旦旦抛诸脑后，仗打了没几天，他就觉得自己撑不下去了，立刻领着司马衷往洛阳方向逃去了。
邺城失守，洛阳也不欢迎他，好在司马衷还是皇帝，靠着他司马颙总不能将他拒在洛阳城外，只是逃难这一路颇为不好过，因为出城过于匆忙，他们并没有充足的准备，再加上担心司马腾不愿放过他们，一路上风餐露宿，提心吊胆。
司马颖逃往洛阳，刘渊愤怒，可为了女儿，他又不得不帮他一把，于是他准备命人带了两万骑兵讨伐鲜卑，解了司马颖的燃眉之急，然而军令未下，身边的人却都不同意。晋朝上下昏庸无道，对异族也非真心，匈奴人在晋朝一直如奴隶一般受人欺辱，所以刘渊身边的人早有怨言，也早就在心中做着打算。现在，司马氏父子兄弟相互残杀，他们认为这是上天厌恶晋朝的德行，准备让天下易主。
“单于积德在身，连晋人都佩服，现在，正是振兴我们国家和民族，恢复呼韩耶基业的时候，”刘渊身边素有良将，而本家亲戚中出类拔萃的更是不少，莫说是小辈，就是长辈中，也不乏谋略过人之人。说此话者乃是刘宣，论辈分，是刘渊的叔祖父，辈分虽高，年龄比刘渊大不了多少，此人年少时好读书，悟性颇高，深得刘渊器重，此时，他见刘渊为了女儿连理智都要失去了，便道：“以后我们要打晋朝，鲜卑、乌丸都可以作为我们的援助力量，怎么可以阻挡他们而去拯救仇敌呢？现在，上天借我们的手消灭晋朝，我们不要违背天意，否则便会受到老天爷的责罚。事已至此，天命不可违，还请单于不要迟疑了。”
刘渊当然知道刘宣的话是对的，可是对于刘凌，他不忍心。自己的女儿，这一辈子所能依靠的人除了自己还有谁呢？那司马遵靠得住吗？他可能为了刘凌跟自己的父亲闹翻吗？就算司马遵有这等魄力，司马颖又怎么允许他们背叛自己？
刘渊烦躁不堪，想到了刘凌，又想到了刘曜。这个儿子回中原已经有段时间了，刚回来时，他知道他在东海，可之后就失去了他的消息，刘曜能干，刘渊希望他回到自己身边助他一臂之力，可是他也知道这个儿子倔强，认定的事情就不会回头，正如小时候他认定了自己要当大将军就不顾一切地念书习武一样，如今他若有了旁的自认为更重要的事，不回来也是有可能的。
到头来，子女都是债啊。
思考了一日，刘渊下定了决心，良机失了就不会再来，也许对女儿不起，可他不能只顾念着女儿，他手下有数十万的匈奴族人，他得为他们考虑，不让他们继续过那种水生火热的生活了。
有了高山峻岭那样高远的目标，谁都不愿再做一个低矮的小土丘了。天下的帝王从来都不是固定不变的，大禹出自西戎，周文王出生在东夷，谁该做帝王，只是按照德行的高低授予。现在，刘渊有兵众十多万，而匈奴人野蛮好战，每个人都相当于十个晋人，刘渊相信，只要他们击鼓进军，必能摧枯拉朽般消灭晋朝。最理想的情况，便是如汉高祖一样建立属于自己的基业，最次，也不失做一个魏氏。
刘渊做了决定，可起兵总要有个美好的借口，他们是匈奴人，一旦对晋朝动武，老百姓们便一定会认为是自己的家园被侵犯了，这时候他们一定会团结一致，共同对外，到时候，刘渊的兵马再强，也会遇到强大的阻力。所以刘渊便转了念头。
刘渊是匈奴人，本是西汉时期匈奴首领冒顿单于的后裔。之所以姓刘，是因为汉高祖时期，刘邦将一位宗室之女作为和亲公主下嫁给了冒顿单于，并于冒顿单于相约为兄弟，所以冒顿单于的子孙都以刘氏为姓。
基于此，刘渊一直以汉朝刘氏的外甥自居。汉朝统治天下的时间久长，他们的恩泽深入人心，所以昭烈帝刘备仅在一州的土地上奔驰，就可以与天下抗衡。既如此，刘渊为什么不可以？他们的祖先与汉朝相约为兄弟，如今兄弟灭亡了，弟弟来继承，难道不是应该的吗？况且，他们还可称“汉”，追认、尊奉后主刘禅，以此来使天下人的期望归向他们。
如此决定后，刘渊迁都到左国城，不久，远方来归附的人就达到了数万。永兴元年，刘渊在南郊筑坛设祭，自称汉王，赦免境内囚犯，建年号为元熙，追尊刘禅为孝怀皇帝，建造汉高祖以下三祖五宗的神位进行祭祀。署置百官，任命刘宣为丞相，其余人等授官各有等差，国号为汉。
刘渊建国，各人反应不一。司马颖在洛阳自顾不暇，倒是没有时间管刘渊，也没有时间管刘凌。司马遵本就受够了各方的掣肘，年初被擒，让他至今还会做噩梦，之后父亲进城，司马颖权势滔天，他也成了炙手可热的人物，连儿子过个周岁的生辰，那排场都顶天的。可司马遵从未被眼前的荣华迷了眼，朝局变动不过是一朝一夕的事情，爬得越高摔得越惨，这话他跟父亲说过，被骂了一句“没出息”，倒是刘凌早就做好了同他一无所有的准备。之后司马颖果然落难，一家老小龟缩在洛阳城中的成都王府，他父亲虽然担着储君的头衔，可明眼人都看出来了，河间王的眼里再也容不下这位往日的“手足”了。终于，司马遵做出了