和毛泽东一样，邓小平也认为共产党必须建立农村根据地，等到有了足够的实力再向对手发起挑战。然而中央领导却指责邓小平追随罗明（一名福建籍干部）的失败主义政策，在打击敌军上不够积极主动。在后来所谓邓小平三起三落的“第一落”中，他被撤销了会昌县委书记一职，并和3个同事（毛泽东的胞弟毛泽覃、谢唯俊和古柏）一起受到严厉批评，后被派往外地以示惩罚。邓小平受到严厉指责，被称为“毛派头子”，甚至他的第二任妻子阿金也加入了批判他的行列，和他离婚，嫁给了批他的人之一、在法国时就和邓相识的李维汉。幸运的是，邓小平的另一位在法国时的故交、时任江西省委书记的李富春，在他下放几个月后把他叫回来，委任为江西省委宣传干事。
据邓榕说，在1930年至1931年的一系列沉重打击——第一个妻子和孩子去世、自己在党内受到严厉批评和责难、第二个妻子与他离婚——之前，邓小平的朋友都认为他是个性格开朗、爱说爱笑的人。但是在经历了这一连串的悲剧和挫折后，他变得更为内敛，少言寡语。当时他还无从知道，从长远看，他被指为“毛派头子”受到惩罚其实是他的运气，因为这使毛泽东长期相信邓小平是忠实于自己的。在后来的岁月里，即便在毛泽东让激进派批邓时，也绝不同意把邓小平开除出党。
共产党建立的苏区根据地使蒋介石对共产党的威胁深感忧虑，于是派兵围剿江西苏区。共产党在四次反围剿战役中都击退了国民党，但在第五次围剿中，强大的国民党把共产党赶出了根据地，共产党从此踏上差不多长达一年的转战之路，此即著名的“长征”。他们历尽千辛万苦才从江西到达陕西的新根据地。长征给中共造成重创，从江西出发时军队大约有86000人，很多人死在路上，还有一些人开了小差，1935年10月到达陕甘宁边区时只剩下不足10000人，在那里迎接他们的是当地一小股共产党武装。虽然缺少长征途中毛泽东和邓小平的交往记录，但据邓小平的女儿说，随着部队日益减员，在长征途中负责宣传以维持纪律的邓小平，有不少机会与毛泽东交谈。
长征开始几周后的1935年1月，在贵州遵义召开了一次重要会议，授权毛泽东领导军队，也为他成为中共头号领导人铺平了道路。邓小平不是遵义会议的正式成员，但他作为书记员得以出席会议。
在长征的最初几周里，邓小平负责出版《红星》报。没过几周，由于运输供应不堪重负，油印机被丢弃。但作为宣传干部，邓小平继续用手摇油印机出刊。长征途中他得了伤寒，几乎送命。他后来对客人说，自己是一半靠马一半靠脚走完了长征。中共在西北建立根据地后，侵华日军取代国民党变成了中共的主要敌人，因此当时除了有反对专制军阀的诉求之外，又加上了爱国主义的诉求。
1936年12月，军阀张学良的军队发动西安事变囚禁了蒋介石总司令，给共产党带来良机。蒋介石为了使自己获释，被迫同意开始第二次国共合作，共同抗日。这个协议消除了来自蒋介石军队的压力，共产党乘机于1937年1月转移到陕北延安一块更大的根据地。邓小平在这里作为红一军团宣传部长领导着文工团，并通过演讲教育军政干部。他形成了自己特有的宣传方式：讲话简明扼要，把国际大势与当前工作联系在一起。演讲结束时，听众对自己该干些什么都有了清楚的认识。
这一年夏天，日本人从东北向全中国发动侵略，占领了许多重要城市和交通干线，但农村地区和西南地区的城市仍在中国人控制之下。
抗战时期，1937-1945
中共同意与国民党结成抗日统一战线后，其军队被改编为“第八路军”，成为全中国军队的一部分，从形式上接受蒋介石的统一指挥，但是国共之间其实仍然猜疑甚深，彼此很少接触。
共产党的八路军总部设在延安以东数百公里的山西，那里土地肥沃，部队可以得到充足的粮食补给，也更接近前线，能够通过游击战骚扰日军。
1937年，毛泽东任命他最得力的将军之一刘伯承为八路军主力部队第129师的师长。不久之后，1938年1月，就像其他单位一样，毛泽东又给刘伯承配了政委，就是邓小平。不过和其他政委不同的是，邓小平任第一书记，刘伯承任第二书记，这使邓小平享有更大的权力，包括有权对部队的战前政治准备和周围环境做出判断。刘伯承比邓小平高出一头，年龄比他大10岁，一只眼因作战负伤而失明。他们两人将在工作中密切配合。邓小平到达129师在太行山区的驻地后，立刻树立了自己的权威：因为刘伯承恰好短暂外出，邓小平在他不在时代理了他的职权。
从1937年到1949年，邓小平和刘伯承先是共同抗日，抗战结束后又在内战中一起打国民党，他们紧密配合，使“刘邓”成了一个固定的称呼。刘伯承有善待部下的名声，邓小平则对部下要求甚严，打起仗来勇往直前。在处决那些被怀疑给国民党做奸细的士兵时，刘伯承也要比邓小平更加慎重。
在抗战期间，129师为了躲避日本人，不断在太行山区变换驻地，但驻地总是设在骑马一天之内可以赶到八路军总部的地方，以方便领导人参加重要会议。不管他们驻扎在哪里，他们都不时对装备更好的日军开展游击战，集中兵力向那些为控制城市和交通干线而分散驻扎在各地的小股日军发动攻击。延安既是个足够大的根据地，又离敌人相当远，这使毛泽东既有时间研究党的理论和全局性战略，又有闲暇畅游于历史、哲学和诗词当中。相比之下，住在太行山区一个较小根据地的邓小平政委，更加接近日本人的前线，几乎没有时间研究理论。他得承担起实际责任，处理和当地居民有关的各种问题。实际上，邓小平在八年抗战时期成了山西太行山区的最高政治领导人，他要建立自给自足的经济，为当地数万居民和部队提供足够的口粮，同时还要生产足够的经济作物，使当地简陋的工业能够生产布匹和其他日用品。邓小平还要为正规军征募兵员，评估军事行动的政治意义，这是他在广西时就已学会的本领。作为鼓励地方经济的举措之一，他设计了一种鼓励当地生产的税收制度。他写道：“向老百姓征税要根据当地最近几年的平均收成，超出这一平均数的部分完全归生产者所有。”21为了使支持正规军的当地民兵随时做好对日作战的准备，他还在这个地区秘密巡视。22邓小平在1939年第二次回到延安，并在那里与卓琳结婚。卓琳是延安聪明伶俐的革命三姐妹之一，她们是以制作云南火腿闻名的一位富商——他死于后来的土改——的女儿。在卓琳那个年龄的人中，能考入大学的百里挑一，受过教育的女性更是凤毛麟角，三姐妹却都念过大学，并在读书期间参加了革命，卓琳更是被竞争激烈的北京大学录取，在物理系就读。她曾经说，邓小平在大多数共产党干部中算是出类拔萃者，她认为他们大都没有受过良好的教育。
邓小平和比他小12岁的卓琳的简朴婚礼是在毛泽东的窑洞前举行的，到场的有毛泽东、刘少奇、李富春和其他几个人。邓小平和毛泽东在西北时见过多少次面，并无可靠的记录，但在邓小平结婚时他们两人显然已是至交。毛泽东后来曾以赞扬的语气，谈到邓小平在江西时受过的罪（指他是“毛派头子”）。他对邓小平无疑抱有好感，这不仅由于邓小平的能力和行动决心，还因为邓对毛泽东早期创建农村红色根据地的成就深怀敬意：邓小平本人也曾做过这方面的尝试，但是没有成功。
邓小平和卓琳育有三女（邓林、邓楠、邓榕）二子（邓朴方和邓质方）。除了邓在危险的环境中作战时两人不在一起，直到97年后邓小平去世以前，他们一直共同生活，是中共领导人中比较稳定的家庭之一。邓小平并不亲近自己的父亲，可是他的妻子儿女却是他面对繁重工作压力时的避风港。与家人的亲密关系并没有延伸到政治事务上。邓小平严守党纪，从不把党内高层的讨论告诉家人。
内战，1946-1949
抗战之后，邓小平成了中共在晋冀鲁豫边区事实上的最高长官，这是一片有几百万人口、地跨数省——河北、山西、山东和河南——的边区。在这片远离国民党军队驻守的城市的山区，为了不可避免的国共内战，邓小平整军备战。他最重要的工作之一是在年轻人中寻找和培养有前途的共产党组织人才，其中有两个人，赵紫阳和万里，在1978年以后发挥了重要作用。
抗战结束还不到一年，国共之间的内战爆发不久，刘伯承和邓小平便奉命率军进入华中大平原一侧的大别山。毛泽东这一调动的直接目的，是要把国民党军队赶出西北地区，因为它正威胁着延安的中共总部；但不止如此，毛还希望在华中平原附近建立一块根据地，因为纵观中国历史，那里一向是兵家决战之地。向大别山进军注定伤亡惨重，因为刘邓大军缺少御寒衣被等各种给养，而该地区的敌军又十分强大。
作为一个坚忍不拔、严守纪律的军人，尽管邓小平很清楚这会造成严重损失，仍然义无反顾地进军。刘邓大军中有很多人要么战死，要么死于饥寒交迫。幸存的士兵处境艰险，极易受到敌人攻击，或因缺少给养而遭受更大损失。尽管困难重重，刘邓余部和新补充的部队还是像毛泽东设想的那样，建立了一个鸟瞰华中平原的根据地。不同于抗战时期的游击战，在内战期间规模浩大的战役中，双方都投入了千军万马。这个根据地将在未来的淮海战役——国共内战中的三大关键战役之一——中发挥其作用。——实际上，挺进大别山，使刘邓部丢失大部辎重，战力严重衰退，甚至远逊于陈粟部。但是挺进大别山对于日后的淮海战役影响甚微。
淮海战役从1948年11月初打到1949年1月，是世界战争史上规模最大的战役之一。国民党的参战军队大约为80万，由精明强干的将军指挥；中共投入的兵力大约为60万，此外中共还动员了100多万农民为部队运送粮草军需，征用了70多万头牲口作为运输工具。中共的战略是引诱长江以北的国民党军队打一场歼灭战，以减少渡过宽阔的长江时可能遇到的抵抗。提出这个战略的人是华东野战军（后来的第三野战军）司令员陈毅的副手、精明强干的粟裕将军。邓小平在淮海战役期间与延安保持着密切联系，不过毛泽东给地方的中共司令员自行决策留出的空间要远大于蒋介石给其将领的空间。此时蒋介石已经对中共军队的高昂士气深感忧虑，他们都是贫苦农民，盼着打了胜仗之后自己家里就能分到田地。淮海战役之前，蒋介石的军队在东北被中共的军队打败，也使他对内战的结局产生了悲观情绪。23粟裕率领的华东野战军在人数上多于刘邓大军，在淮海战役初期的战斗中歼敌也比受到敌军重兵围困的刘邓大军更为成功。时称中原野战军的刘邓大军（不久后改编为第二野战军），在投入战斗后伤亡惨重，需要粟裕的华东野战军及其炮兵前来增援。在淮海战役的最后阶段，毛泽东下令成立总前委，将60万中共军队纳入总前委书记邓小平的统一领导。
邓小平在淮海战役中的领导作用并非没有争议。刘伯承担心部队的安全，试图挖掘更多的战壕以抵御国民党军队的优势火力，邓小平却坚持进攻。后来有人批评邓小平说，他在战役初期把部队置于更大的危险之中，造成了不必要的伤亡，也没有让部队挖更多的防御工事。
但是，由总前委书记邓小平统一领导的60万中共大军，在战役的后期还是占了上风。这一场大战既是军事上的胜利，更是士气的胜利，此后蒋介石的军队便退居守势，共产党的军队则继续向南和向西推进。事实上，淮海战役之后，国民党已经难以集结大军抵抗共产党的进攻了。中共军队轻松击溃抵抗，渡过宽阔的长江，迅速地西进、南进。日本首相中曾根康弘曾在1984年问邓小平，他在一生中的什么时候感到最幸福，邓小平回答说，是他们克服兵力装备都不如对手的双重障碍，取得解放战争胜利的那三年。他特别提到了横渡长江的壮举。24随着中共军队的节节胜利，攻取了一座又一座城市，一部分军队需要留在城市建立军管会，以便管理城市和开始政权过渡工作。中共军队攻占上海后，邓小平有几周的时间亲自负责接管上海市政府各个部门的军管会工作。过去一直不暴露身份的上海中共党员和支持中共的进步青年协助共产党接管了城市。邓小平会见当地各行各业的领袖，解释党的政策，选拔和任命下级部门的领导，以便在短暂的过渡期能够获得当地人民的支持。他还大力发展新党员，以扩大上海地区的领导力量。上海市民对国民党的腐败和恶性通货膨胀深恶痛绝，普遍欢迎共产党的到来。但是，中共还是用了数年时间，才克服了内战造成的破坏和混乱。在领导上海的政权过渡之后，邓小平离开上海返回自己的部队，开始向大西南进军。
建立中共政权，1949-1966
从1947年夺取东北到1949年年底控制全国，中共只用了两年多时间。每占领一个大区，中共就会成立一个“局”，领导该大区。