南阳舂陵县住着汉朝的一个远房宗室叫刘钦。他有三个儿子，老大叫刘老讽刺刘秀，笑他没有多大出息。刘秀听了也无所谓。他觉得要成大事，非得跟那些当官的结交一下。他就到了长安，进了太学，拜了老师，结识了一些名人。后来从太学回来，就做起粮食买卖，成了个大商人。
有一天，刘秀运着一些谷子到宛县（在南阳市）去卖，在街上碰到了好朋友李通和李轶（yì）。李通和李轶把刘秀请到家里，跟他说：“现在四方乱糟糟的，王莽眼看着不行了，咱们南阳地方就数你们哥儿俩最能干，你们又是宗室，何不趁此机会，召集人马，夺取天下，也好恢复汉室。”刘秀一听，正合了自己的心愿。三个人谈得挺对劲儿，就约定在南阳发兵。李通在宛县很有势力，他一发动，召集几百个人并不困难。李轶就叫李通留在宛县，自己跟着刘秀到舂陵去见刘。
刘有了李通和李轶两人做助手，就召集了一百来个豪强，对他们说：“王莽暴虐，老百姓都起兵了。这是上天叫新朝灭亡的时候，也是我们平定天下，恢复高帝事业的时候了。”大伙儿都很赞成，马上分头到附近的各县去发动自己的亲戚、朋友，一同起兵。
刘在舂陵公开号召南阳豪强们起兵反抗王莽。有几家害怕了，有的干脆躲着他，还说：“造反可不是闹着玩儿的。跟着刘莽里莽撞地出去，豁出一条命还是小事，弄不好了还得灭门呐！”后来他们瞧见那个一向小心谨慎的刘秀也穿上军装，拿着刀，不由得改变了主意，一下子就来了七八千人，就等着李通那一边到这儿来会齐了。
等了几天，李通那边还没有人来，刘只好派人去打听。派去的那个人到了宛县城里，在大街上就听见有人嘁嘁喳喳地议论。他挤在中间探问了一下，才知道李通还没发动，就给官府发觉了。李通逃了，李家一门来不及逃的全都给抓了去，一共死了六十四个人。
李通那一头吹了。刘这儿只有七八千人，成不了大事。正好新市兵和平林兵已经到了南阳。刘就派人去见新市兵的首领王凤和平林兵的首领陈牧，劝他们共同去进攻长聚，他们同意了。三路人马联合起来往西打去，这第一仗，旗开得胜，长聚打下来了。接着又打下了棘阳（在河南省新野县东北），就把军队驻扎下来。
刘又打算进攻宛县，半道上碰上了王莽的大将甄阜（zhēn fù）和梁邱赐的大军。刘他们都是步兵，连刀枪也不齐全，简直没法对打。这第二仗，南阳兵败了，还败得挺惨，只得退到棘阳，守在那儿。甄阜和梁邱赐不肯放松，他们把粮食和军用物资留在兰乡（在泌阳县），率领着十万大军过了沘水（即泌阳河），把桥都毁了，放出话来说，不消灭“绿林盗贼”决不回头。
新市兵和平林兵的两个首领来见刘和刘秀。他们说：“甄阜和梁邱赐有十万兵马，叫我们怎么抵挡得了？还不如扔了棘阳，暂时退到别处去吧！”刘嘴上叫他们不要怕，心里可也挺着急的。正在为难的时候，忽然进来一个人，说：“下江兵到了宜秋（在河南省唐河县西南）。我们联合起来，一定能够打败敌人。”刘哥儿俩一看，原来是李通。刘秀高兴地说：“这就好了！你怎么到了这儿？”李通说：“我从家里逃出来，四处奔波。听说你们在这儿很为难，棘阳也许守不住，刚巧下江兵到了宜秋，我才赶来报信。下江兵的首领王常挺了不起，你们去请他帮助，他准肯出力。”
刘马上带着刘秀和李通亲自跑到宜秋去见王常。刘跟他说明两路人马联合起来的好处。王常挺痛快地说：“王莽暴虐，失了民心。现在你们起来，我愿意做个助手。”刘说：“如果大事成功，难道我刘家独享富贵吗？”刘跟王常当下就订了盟约。
王常送走了刘他们，回来就把这件事跟另外两个首领成丹和张卬（áng）说了一遍。成丹和张卬不大同意，说：“大丈夫起兵，就该自己做主，何必去依靠别人，受人家的节制？”可是，他们一向佩服王常，最后还是听了他的话。打这儿起，农民起义军跟地主武装就混合在一起了。
王常、成丹、张卬他们带着下江兵赶到棘阳。跟南阳兵、新市兵、平林兵合在一起，准备跟甄阜他们干一下子。刘跟各路将士订了盟约，大摆酒席，休息三天。到了十二月三十那天，刘提出他的作战计划。就在当天晚上先去袭击兰乡，断了官兵的粮草。
把守兰乡的官兵怎么也不会想到兰乡会遭到袭击，他们大吃大喝地过除夕，大伙儿都醉了，睡得死死的。半夜里人家已经偷偷地到了跟前，他们还没醒，怎么还能抵抗呐？四路起义人马杀散了兰乡的士兵，把甄阜、梁邱赐留在那儿的粮草能搬的都搬到棘阳去，来不及搬的，放一把火，全都烧了。
第二天就是元旦，起义军进攻沘水。沘水那边，甄阜和梁邱赐听说丢了兰乡，早就慌了神，想不到起义军已经到了跟前。大伙儿手忙脚乱地抵挡了一阵，死的死，逃的逃，甄阜和梁邱赐都给杀了，士兵死伤了两万多。王莽另一路大军赶来救援，也给打得一败涂地。起义军趁势把宛县团团围住。
这时候，四路人马合起来已经有十多万人了，该有个最高首领，才能够统一号令。四路起义军的首领们这就商量开了。贵族、地主出身的一些将士利用农民的正统观念，提出了一个口号，叫“人心思汉”。他们说：“人心思汉，已经不是一天了。必须立个姓刘的人做皇帝，才符合人们的愿望。”可是军队里姓刘的人多着呐，立哪一个好呐？南阳兵和下江兵的首领王常主张立刘。新市兵和平林兵的首领怕刘的势力大，主张立没有实权的刘玄，连下江兵的张卬也同意。最后，立刘玄这一派占了多数。
刘不服气，可他的兵力不够，只好绕着弯儿反对。他说：“诸君要立汉朝的后代，我们刘家的子孙万分感激。现在赤眉军也有十多万人在青州和徐州，要是他们听到南阳立了个宗室做皇帝，他们也立个宗室做皇帝，那怎么办呐？王莽还没消灭，宗室跟宗室倒先对立起来，叫天下人怀疑，又削弱了自己的力量。咱们不如先立个王。有了王，也可以统一号令了。如果赤眉立了个贤明的天子，咱们就去归附他，他决不会废去咱们的爵位。要是他们没立，咱们先消灭了王莽，再回到东边去收服赤眉。到那时候再立天子，也不晚呐。”
别人谁也不说话。张卬拔出宝剑来往地下一剁，大声地说：“三心二意的，不能成大事。今天已经这么决定了，不应该再有第二句话！”刘不敢再反对。这么着，当时就决定立刘玄为皇帝。
公元23年二月初一日，在清水（就是河南省白河）举行了皇帝登基仪式，改元为“更始”。刘玄拜王匡、王凤为“上公”，朱鲔（wěi）为“大司马”，刘为“大司徒”，陈牧为“大司空”（大司马、大司徒、大司空就是以前的太尉、丞相、御史大夫，总称“三公”，三公之上还有个名位更高、没有实权的“上公”）。刘秀为“太常偏将军”，其余的将士各有各的职位。打这儿起，绿林起义军称为“汉军”。汉军的大权掌握在新市和平林将士们的手里，舂陵的刘家军很失望，表面上不说什么，心里已另作打算了。