1861年下半年，太平军在浙东、浙西战场连获大捷，直逼杭州、上海，力图把苏浙变成支撑太平天国的战略基地。面对太平军的凌厉攻势，上海官绅一面倡议向英法等国“借师助剿”，一面派代表到安庆向曾国藩乞师求援。
1861年11月8日，上海方面筹银二十万两，雇佣外国轮船，派遣钱鼎铭等以苏浙乡绅的名义，顺长江到达安庆。钱鼎铭在晋见曾国藩时，说到江南沦陷的伤心处，声泪俱下，大放悲声，而且一个劲地叩头，此后便久住不去，看情形，曾国藩若是不肯出兵的话，他就打算永不还乡了。钱鼎铭的父亲与曾国藩是同年，钱鼎铭的陈情让曾国藩颇为动容，但他却并没有痛快地应允下来。究其原因，一是曾国藩考虑到上海同安徽相距较远，一旦发生紧急情况，大本营和上海驻军之间无法形成呼应，二是湘军克复安庆后，正打算倾全力围攻南京，客观上也无兵可分。
钱鼎铭哪肯就此罢休，他打听到李鸿章乃曾国藩的亲信幕僚，深受曾的器重。钱父与李鸿章的父亲李文安亦是同年，关系密切，借着这个由头，钱鼎铭又专程拜访李鸿章，希望他能够出面劝说曾国藩。
如果说钱鼎铭在曾国藩面前，主要是动之以情的话，他对李鸿章则是“晓之以理，动之有利”：上海财赋丰盈，饷源极其惊人，如果弃之而为太平军所有，那就太可惜了！
钱鼎铭说的倒不是假话，当时清廷实行货物抽厘以供军饷的办法，上海乃是当时全国最大的商业城市，富庶繁华，有“天下膏腴”之称，又是通商口岸，无论厘金收入（即商业税）还是海关税，都非它处可比。湘军历来最缺的就是军饷，即便曾国藩任江督后，其直辖的湘军亦常常拖欠军饷。李鸿章身在湘军核心决策层，对此一清二楚，听了钱鼎铭的话后，眼睛顿时为之一亮，很痛快地便答应了钱鼎铭等人的请求。
派兵遣将
由李鸿章来劝说曾国藩，分量就完全不一样了，甚至可以这样说，钱鼎铭能打动李鸿章，事情也就成了一大半。当然，这不仅仅是因为李鸿章在曾国藩心目中独一无二的地位，还缘于李鸿章能够站在曾国藩的立场之上，分析和解决他的疑虑。
上海和安徽隔得远，就要分兵，从军事上讲，分兵援沪，“由下捣上”，可以造成东西两线互相配合，分进合击之势，从而迫使太平军陷于两面作战的困境，这本身就是一种最好的呼应。至于兵源问题，其实也不难解决，因为可以“求其在我”，曾国藩手中虽然暂时无兵可分，但曾国荃已回湖南添募新勇，可以满足分兵的需要。
俗话说得好，江山易改，禀性难移，李鸿章虽是曾国藩一手锻打出来的，然而李、曾的处事方式仍有明显差异。概言之，曾国藩是个过于求稳的人，遇到大事需要决策时常常犹豫再三，而李鸿章则明快果断，其过人的决断力连曾国藩也为之欣赏，以致每每当曾国藩陷入不知所从的时候，都是李鸿章在旁几句话一说，就把事情给定了下来。曾国藩自己也说：“好些事千头万绪，错综复杂，少荃寥寥数言，就能拨云见日，让我下定决心。”
这次也一样，对于李鸿章的解说，曾国藩深以为然。恰在此时，大学士、江苏常熟人翁心存顾念家乡之危，也向朝廷上疏，建议让曾国藩拨兵援救苏浙和上海等江南要地，朝廷据此颁发了谕旨，曾国藩遂痛下决心拨兵援沪。
打定主意后，曾国藩立即着手进行安排。起初的方案，是让曾国荃将六千新勇带到安徽前线接防，把原驻安徽的八千老兵换下来，再由曾国荃率这批老兵进驻上海。之后，又决定改派曾国荃为主帅，水路辅之以黄翼升，陆路辅之以李鸿章，这么做，倒不是说曾国荃能力不行，非得李鸿章辅佐不可，而是曾国藩感到，由这八千老兵组成的部队仍嫌单薄，必须增拨兵力。
湘军历来只在湖南招募兵勇，湘军将领无论在何处作战，都要返湘募兵，这么多年仗打下来，湖南可招之兵越来越少，兵源也就越来越紧张，曾国荃此次回乡募勇已近乎竭泽而渔。况且，新兵因战斗力问题，也不在此次援沪之列，只能像方案中那样将老兵置换出来，而此时湘军已把主要目标放在围困南京上，也就是说，即便能够及时招募到足额的新兵，也无法再置换出这么多老兵。
按照湘军的制度，兵由将募，兵为将有，非将领本人亲自招募的湘勇不能由他来指挥，所以李鸿章本来是手中无兵的，这也是一开始曾国藩没把他放在赴沪名单之中的原因之一。后来方案调整，则是因为曾国藩知道李鸿章能弄到兵了，而且还不是一仗都未打过的新兵。
李鸿章能弄到的兵，就是那些安徽团练。李鸿章投奔曾国藩后，他原先所带团练早已星散，但庐州一带依然存在不少团练，这些团练经常同太平军、捻军打仗，甚至出境袭击，就战斗力而言，有的甚至比普通的八旗绿营还要强悍一些。
在庐州的西乡团练首领中，以张树声办团最早，李鸿章之父李文安回籍督办团练时，张树声曾被召襄赞其幕，这使他与李鸿章父子的关系非同一般。李文安死后，张团声势独隆，张树声保升知府，在各团首中官衔最高，隐为盟主。张树声一直与李鸿章保持着联系，还在湘军攻陷安庆前，他召集众团首密议，一致决定投效李鸿章，随后便写信向李鸿章致意。
曾国藩很早就认定，安徽的皖北、皖中一带民风强悍，可招募成军以补湘军的兵源不足，此前派李鸿章去皖北招募马勇，也正是出于这一考虑。看到张树声的那封信后，曾国藩甚为惊叹，他把张树声比喻为渡江北伐匈奴的东晋名将祖逖，说“独立江北，今祖生也（祖生即祖逖）”。
重招和训练湘勇，困难重重，淮勇则是现成的，只需李鸿章号召和组织一下即可，曾国藩由此产生了让李鸿章招募淮勇成军的念头，并决定派他随曾国荃赴沪。
方案定好了，让曾国藩没想到的是，他胞弟却对援沪毫无兴趣。给出的理由是：“害怕归他人调遣，不能尽合机宜。”实际上，曾国荃此时的心志全都集中于进围南京，他分析说，上海虽然财赋甲天下，筹集饷银容易，但太平天国的京城在南京，如果他率部急攻南京，太平军必然会以全力援救，而后苏州、杭州空虚，到那时，克服苏杭包括上海，就不用费太大气力了。
这当然都是冠冕堂皇，可以放在桌面讲的话，围攻南京固然重要，但也不一定非他曾国荃不可，归根到底，他还是想揽取攻克南京的头功，而不愿担任援沪筹饷之任。
淮军
说到筹饷，湘军分兵援沪后，援沪部队的军饷势必只能就近取自于上海，这也是湘军此次赴援上海成败的关键。曾国藩从前吃够了客军作战的苦头，如今自己虽身为两江总督，按例可节制江苏巡抚（上海在江苏巡抚的管辖范围之内），但中隔敌区，孤军赴援，鞭长莫及，实权仍操于巡抚之手，如果此人依旧跟你唱对台戏，那可咋整？
除向上海派兵遣将外，曾国藩准备保举李鸿章署理江苏巡抚，这就等于是买了双保险：只要援沪部队作战不失利，能保住上海并收复失地，饷银就决不会没有着落。
即便这样，曾国藩仍未考虑让李鸿章担任援沪主帅。在三番五次催了又催，曾国荃就是不肯动身的情况下，他又属意湘军将领陈士杰，让他招兵赴沪，但陈士杰却视此为畏途，以母亲年纪大，需要奉养为由力辞。
见曾国荃、陈士杰均不愿前往，曾国藩不得不派李鸿章、黄翼升先行赴上海。李鸿章很爽快地把这份曾国荃不屑挑，陈士杰不敢挑的担子接了过来，受命之日，脸上没有半点难色，反而喜气洋洋。曾国藩一向都认为李鸿章是个敢做大事，能做大事的人，见状便笑着对他说：“少荃，你这一去，我就高枕无忧了。只是我这里从此少了一个得力帮手，可是又有什么办法呢？”
1861年12月15日，曾国藩正式密荐李鸿章署理江苏巡抚，援沪主帅也同时由李鸿章兼任，让他带淮扬水师五千，再拨陆师六七千东进。
曾国藩所拟拨的陆师六七千人，即为正在招募中的淮军。湘军的招募办法是由大帅选拔统领，统领选拔营官。若以军职而论，大帅是曾国藩、胡林翼，李鸿章在湘军中只是一个统领，只需选拔好营官，就算完成任务了，所以他并没有返归故里，而是坐镇安庆，通过派人或通信等办法进行征召。
李鸿章对庐州人情较为熟悉，最早投书报效的也是以张树声为首的庐州团练首领，所以李鸿章首先写信把张树声请到安庆，两人见面后谈得十分投机。张树声回去后不仅自己募勇相从，而且还左提右挈，把刘铭传等庐州团首都动员了起来。
在庐州团练之外，李鸿章还征召了庐江团练。安徽各团练一方面与太平军、捻军争战，另一方面他们彼此之间也互争雄长，一般都是太平军、捻军来了，就一致对敌，太平军、捻军走了，便在内部打成一团。
李鸿章征召庐江团练，靠的是潘鼎新，潘鼎新虽是庐州团首，但籍隶庐江，在庐江民团中说得上话。潘鼎新在进京赴试时，曾拜在李文安门下，后来李鸿章考取进士，又改拜李鸿章，二人始终都有联系，为了组建淮军，李鸿章特地致函潘鼎新，并通过潘鼎新串联了庐江团首吴长庆。
淮军在建制上完全复制于湘军，所谓“湘淮营制同一家法”，按照湘军营制，营官还需选拔哨官，哨官选拔队长，队长再招募勇丁，但团首们手中已均有现成的队伍，无须重起炉灶，所以仅仅两月之间，就已成军四营。各营均以营官的个人字号命名，分别为张树声的树字营、刘铭传的铭字营、潘鼎新的鼎字营、吴长庆的庆字营，树、铭、鼎三营均出于庐州，只有庆字营出于庐江。
在李鸿章正式招募淮勇前，湘军系统已有三营淮勇，其中有一个是张遇春所统带的春字营。张遇春原为李鸿章办团时的嫡系部将，此前应李鸿章之召，加入了湘军，如今李鸿章奉命招募淮勇，张遇春便又重归其节制。春字营的勇丁均为曾国藩所招募，皆属安徽无为、运漕一带人，称为“老勇”。
1862年2月下旬，李鸿章所募淮勇陆续抵达安庆北门外驻扎。加上春字营，五营淮军共计三千五百人，曾国藩命令一律遵照湘军的营规来进行训练，各营器械装备的使用，饷银粮草的数目，也完全依照湘军所定的章程办理。
淮军五营为淮军的核心力量，但除春字营外，其余四营均为由旧有团练升级而成，虽然也有战斗经验，然而都未打过大仗、硬仗。李鸿章深感以如此单薄的实力，难膺远征重任，弄不好一上仗就吃个大败仗，也未可知，因此恳请曾国藩调拨数营，以加强淮军的战斗力。
曾国藩也认为淮勇兵员太少，不能独当一面，遂允其所请，陆续调拨八营计三千湘勇归其节制。其中有四营亦为新勇，即江苏方面派人在湖南招募的林字营两营，以及曾国藩招募的湘勇两营（熊字营和垣字营）。剩下四营则皆为湘军中最精锐的部队——曾国藩自己的亲兵营（也称督标亲兵营）两营，程学启的开字营两营，后者还是李鸿章从曾国荃手里借来的，因为程学启原系安徽太平军的降将，故而营中多两淮子弟。
编组就绪后的淮军，共计十三营，六千五百人。原湘军淮勇三营里的李济元营，本来也已由曾国藩拨归李鸿章统辖，但淮军援沪时，该营被留滞于皖南，后又调守它地，未再加入淮军。
有人把湘军与淮军的关系，比喻成是一对母女，所谓“湘军是淮军之母”的说法即源于此。淮军援沪，犹如是湘军嫁女，曾国藩所给予“妆奁”之丰厚，超出了一般人的想象——湘军历来都奉行兵为将有，帅不干涉的成规，湘军统领都须自择营官、哨官来招募队长、勇丁，大帅甚少把各营调来拨去。更不用说，李鸿章从湘军中得到的调拨兵力，实际已占到淮军成立时兵力的十分之六，从这个意义上，甚至可以说淮军就是湘军的一个分支。
风口浪尖
淮军既已组成，如何从安庆开拔到上海，就成了一个棘手的问题。因为两地不仅相距遥远，而且中间还隔着太平军控制区，沿途面临着被太平军打散的风险，行军中的淮军要想突破敌人防线，千里跃进上海，其艰险程度可想而知。
曾国藩考虑绕道苏北，那里有大片的清军控制区，安全系数较大，但路线较长，耽搁时日，淮军若是全部走陆路，上海官绅也等不及。李鸿章与曾国藩经过商议，最后决定大部队“由水路东下，直赴上海”，所乘轮船系江浙官绅向洋商借款，从英国轮船公司所雇。
1862年4月5日，首批淮军鼓轮东下，次日，李鸿章登舟启行，此后其余淮军也分批陆续登船东下。淮军东下时，需从太平天国腹地穿过，太平军并非无力截断江路，炮轰轮船，只因轮船上都统一悬挂着英国国旗，属于连太平军都不敢轻易与之发生冲突的洋船，而且它们又都是体量不大的小火轮，外观看上去不过是普通货船，太平军觉得没有上船检查的必要，也就都一一予以放行了。
饶是如此，淮军官兵依旧胆战心惊，因为长江两岸密布太平军的炮台和营垒，一旦被对方发现，遭到攻击乃至船毁人亡，是注定跑不掉的。李鸿章的幕僚周馥所乘船只在经过南京附近时，北岸九洑洲炮台的守军甚至已凭垒对船只进行观望，周馥和随船的六百官兵被迫躲在空气污浊的底舱里，根本不敢露头。
比这更危险的是钱鼎铭、程学启所乘轮船，在经过采石矶时不慎搁浅。那里的南北岸都是太平军控制区，而且太平军还有水师，其战船楼橹相望，吓得钱鼎铭、程学启二人相顾失色，都以为性命休矣。幸而太平军碍于洋船，没有上前检查，到了傍晚，江水涨潮，船只重新启航，他们才得以化险为夷。
至5月29日，李鸿章带着他的六千多淮勇，分成七批，陆续在黄浦江畔登陆。东行期间没有走漏一点消息，除了闷死一名勇丁外，整个行程可谓有惊无险，回过头来看，这一千里大穿越行动相当出奇大胆，也非常成功，若是放在中外军事史上，亦堪称一大奇迹。
在抵沪后不到二十天内，李鸿章就奉命署理江苏巡抚，七个月后由署理转为实授，又两个月，由巡抚署理通商大臣，一跃成为身兼要职，手握重兵的江苏实权人物。可是他也同时被置于了风口浪尖之上，概而言之，只有全力保住上海，进而夺取苏常，将该区域的太平军扫除殆尽，苏常沪一带才能转危为安，他和淮军也才能站住脚。
保住上海也罢，夺取苏常也好，要做到这一点，都必须妥善解决好察吏、整军、筹饷和洋务等问题，但要解决好这些问题并非易事，困难必定很大，尤其对于初来乍到，在当地毫无根基的李鸿章来说，更是如此。
青年时期的李鸿章，五官俊美，此时虽已至不惑之年，但依旧举止倜傥，精悍之色，露于眉宇，尤其他一米八的身高，在当时的中国，可谓鹤立鸡群，这使他来到上海后，很快就获得了“云中鹤”的绰号。著名摄影家约翰·汤姆逊曾给李鸿章拍照，除了“举止稳健而高贵，相貌极为英俊”外，这位观察细致的摄影家还注意到，李鸿章“眼睛乌黑而又具洞察力，嘴唇上有两撇深棕色的胡子，显示出坚定的决心。”
有人说李鸿章有一种“二杆子精神”。“二杆子”在北方方言中，系指人的脾气莽撞，不怕事，爱打架和惹是生非，说李鸿章有点二杆子，与这个意思有所不同，更多的是说他具有当时一般官场中人身上少有的一种气势，这种气势就是不尚空谈，勇于任事，别人不敢碰的活，我敢碰，别人不敢揽的活，我敢揽。
不怕吃苦，踏实做事，则是李鸿章在曾幕时期，由曾国藩用“诚敬”一手磨砺出来的功夫。自履新职后，李鸿章每天从早忙到晚，几乎无一刻闲暇，除了与曾国藩始终保持通讯联系外，他连与四方友朋交游和书信往来几乎都顾不上了，唯一的目标就是冲破“险阻艰危”，尽快闯出一个新天地。
作为空降的江苏巡抚，李鸿章的当务之急是要整顿吏治，不然纵然是名义上的地方最高长官，依然会政令不畅，难以作为。当时的江苏和其他各省一样，官场腐败混乱到了极点，上海则更为突出，按李鸿章所说，各级官吏沆瀣一气，贪财捞钱，已浑然不知礼义廉耻为何物，其中的关键人物为吴煦、杨坊，二人长期经营上海，上海的钱、粮、财、物、人事及与洋人的关系，都在他们的掌控之中。
李鸿章将打击吴煦、杨坊一党，作为其整饬江苏吏治的突破口。李鸿章首先奏准裁撤了吴煦的一些党羽，同时削减了吴煦的职权，尔后又下令免去了吴煦管理海关的职务，另外安排品行端正，廉洁自守的官员接替。
李鸿章对杨坊也深恶痛绝，必俗罢之而后快。杨坊知道来者不善，便玩弄以退为进的手法，主动向李鸿章请求辞去要职。他以为李鸿章会像其他上司那样，就算是强作姿态，也会对他进行挽留，他不知道李鸿章不是一般人，他是官场的“二杆子”，不循常理才是他正常的出牌方式。杨坊的辞职正中李鸿章的下怀，他根本不屑于跟对方玩你推我让的那套把戏，而是将计就计，根据杨坊的请求，直接就上奏朝廷，罢了杨坊的官。
在吴煦、杨坊的职权已被大大削弱的情况下，李鸿章对他们仍不放心。次年，他终于找到机会，以白齐文事件为借口，奏准将吴、杨二人暂行革职，实际是在政治上对他们进行了彻底清除。
建幕
自随吕贤基回乡办团起，李鸿章经历了近十年的幕府生涯，尤其两入曾国藩幕府，更使他切身感受到了网罗幕府人才的重要性。还在受命招募淮军之初，李鸿章即开始延揽人才，筹建幕府，一次偶然的机会，他看到一封书信，见上面的字体工整，寓合秀气，当下十分欣赏。旧时用人，要看面相，也要看笔迹，认为从笔迹上可以看出人的性格，李鸿章断定书写者处事慎重而有灵性，一问，才知道信是写信者请朋友代写的，代写的人是一个名叫周馥的秀才，于是当即把周馥招来担任了自己的总文案。
李鸿章没有看错人，周馥不仅办事精细谨慎，而且勤奋好学，他在参加淮军后，即使在随李鸿章同太平军作战期间，也从不放弃读书。李鸿章有一次从将吏营帐间经过，走到周馥住的地方，发现案几上全都是宋儒书籍，这让他大为诧异，感叹周馥将来必定可做大事。
幕僚在无实职在身的情况下，没有资格领取国家发放的俸禄，都必须依赖幕主提供经济条件，才能养家糊口，而在未正式出任江苏巡抚前，李鸿章自己也尚是曾国藩的幕僚，每月所得不多，但他却能够分一半给周馥。周馥亦不负李鸿章的知遇之恩，始终勤勤恳恳，忠心耿耿而无怨言，成为跟随李鸿章最早，时间也最长的骨干幕僚。
赴沪前，李鸿章除招募了周馥等人外，还专程走访湘系重要幕僚、常州人赵烈文，向他请教苏沪的人才情况。到上海后，李鸿章很快便仿照曾国藩的办法，通过奉调、函招、推荐等方式，建立起自己的幕府机构。
建幕后，作为私人宾席的幕僚，其薪水大半由所属局所或军营供给，虽不是完全的官俸，但也不用李鸿章再个人自掏腰包了。这一点与曾国藩幕府并无不同，区别在于，曾国藩的幕友主要是传统读书人，李鸿章幕府固然也有传统读书人，但更多的还是学有专长的各方面特殊人才，后来甚至有留学生以及为数不少的洋人。在这方面，李鸿章很像曹操对待人才的态度，即唯才是举，量才而用，他很少聘请道学先生和文学侍从，也不太看重对方的功名和社会地位。
李鸿章把筹建幕府和整顿吏治结合在一起，通过大撤大换，将自己所沿用的部分重要幕僚，陆续安插到吴煦、杨坊一党所空出的职位上去，最终将江苏一省的军、政、经济大权，完全置于了自己的掌控之下。
李鸿章受任之初，正值太平军第二次对上海发动大规模攻势，形势极为严峻，李鸿章虽为大权在握的一省之长，但政令却不能出上海孤岛。在强敌环伺的情况下，他深感若仅凭原先带来的十三营淮军，要想击退太平军，守住上海，都难以做到，更别说歼灭太平军，克复苏常了，为此，一到上海，便把募勇添兵，扩军备战作为了重中之重。
李鸿章收编两淮团练，除树、铭、鼎、庆四营外，还另编有亲兵营（此为李鸿章自己的亲兵营，也称抚标亲兵营，区别于曾国藩所拨的督标亲兵营）、盛字营、传字营，三营都没有坐船，而是由陆路绕江北抵达上海。
仅仅添上这三营，淮军兵力仍嫌不足，李鸿章于是便采取了湘军扩充营伍的传统方式，命张树声、吴长庆回皖募勇。不料对于淮军返乡募乡一事，社会上非议、嫉忌者颇多，尤其江北清军将领认为淮军不仅是在和他们争抢兵力资源，还动摇了其军心，给江北的兵营管理造成了困难——其间也确实出现了扬州防勇因羡慕淮军饷高，化名应募于淮军的情况。
将领们纷纷上奏朝廷，要求淮军停止返乡招勇，有的甚至直接出手，试图留难，因为这些原因，张、吴回乡仅募得九营，还曾一度被曾国藩临时作为防守无为、庐江之用，无法迅速补充于前线。
难题
眼见时势危迫，远水难解近渴，李鸿章只好另外想辙。他的前任，也就是前江苏巡抚薛焕所部有防军五万，李鸿章陆续裁汰了三万余人，选留了万余人。对于留存兵勇，湘淮籍的，便仍采用湘军规制，重新编组，非湘淮籍的，或以原有之将统原有之兵，或另行委派统将。
委派统将，又给已升为大帅的李鸿章出了一道难题。因为在他看来，既有营官中虽有可用之才，然而要选拔出来当统领，却还大多差着火候，为此，他不得不向湘军各部借将。将才是军中的重要资源，加上湘军地域和门户观念深固，在李鸿章发出请求后，湘籍统领皆虚与委蛇，不肯相助。唯有非湘籍的鲍超，在湘军集团里和李鸿章同属寄人篱下，难免惺惺相惜，两人之间的私人关系平时就较好，得知李鸿章有此困难，他一次性就拨借了三员参将。李鸿章大为感动，在答谢信中称：“足见知我爱我之深。”
曾国荃部将郭松林以勇猛彪悍著称，他本来只是曾国荃的一名亲兵，硬是靠战功累积而成参将，这种将领当然是李鸿章最眼馋的。以他和曾国荃的关系，曾国荃本来是绝不会将郭松林借给他的，但湘军内部也有矛盾，郭松林遭忌出走，遂只身赴沪投效淮军。李鸿章大喜过望，连忙将他委任为营官，并从防军所选留兵勇拨出五百归其指挥，这就是松字营。事后李鸿章致信曾国荃，说郭松林来沪的时候，战事紧急，我知道他打仗勇猛，就先让他带兵了，“求您赏借，不要再苛责于他，鸿章一定时时敲打，帮助他改正错误。”曾国荃见状，也只好卖个顺水人情，以借将的名义把郭松林正式让给了李鸿章。
郭松林带松字营，鲍超所借三将中的杨鼎勋带勋字营，在李鸿章借将统带的各营中，松、勋二营最为突出，后来几乎同树、铭、鼎、庆诸营并驾齐驱。有人论及淮军，认为树、铭、鼎、庆四营作为淮军最基干的部队，就像是淮军的身体，但还缺少一双翅膀，郭松林、杨鼎勋二将犹如给淮军插上了翅膀，这样淮军才能飞起来，也才能最终摆脱湘军的影子。
程学启原先也是曾国荃手下的一员悍将，唯因是太平军降将，故而不受曾氏兄弟的重用。李鸿章既知程学启打仗凶悍，又知道他是安徽桐城人，所部亦属淮勇，于是在安庆时一面向曾国藩索借，一面派人向程学启暗中致意。曾国荃起初不同意，经不住曾国藩两次发函下达命令，李鸿章也低声下气地致函恳求，这才松了口，从这个意义上说，程学启其实也可以算是从曾国荃手里“借”来的战将。
招降纳叛是李鸿章解决兵员短少问题的另一个捷径，此举不仅可以扩充淮军兵员，而且有助于瓦解太平军，实现所谓“以毒攻毒”。李鸿章对此极为重视，他收编太平军降众的数量，甚至远远超过了改编的防军。值得一提的是，自李秀成经略安徽后，太平军中有不少安徽人，李鸿章因此又侧重以程学启牵头，对皖籍太平军将士进行招降，淮军中也因此增加了大批的皖籍兵勇。李鸿章引以为豪，在信中用炫耀的口气对曾国荃说：“忠党（指李秀成部）里面我的家乡人最多，现在他们都络绎不绝地前来投奔我了。”
自古欲强兵必先足饷，但朝廷财政匮乏，对于湘淮军都无充足的饷需供给，他们的大部分军费开支，都需要自己设法筹集。上海的军饷来源主要为厘捐和海关税两大项，原先都控制在吴煦、杨坊等人手中，李鸿章每次询问吴煦每个月的厘捐、海关税有多少，得到的回答都是不过十余万，就是这十余万，还要优先供给“助剿”太平军的英法洋兵以及常胜军，余下的才能交给李鸿章作为军饷。李鸿章此时一肩担三任，除自身的淮军外，尚需给曾国藩大营和镇江防军拨去协饷，哪里够用，但不管他怎样三令五申，吴煦等人就是不肯把细账报上来。
为了筹足军饷，李鸿章另辟蹊径，与吴煦约定，厘捐从此由他亲自接管，用于支付淮军、本地防军及协济曾国藩大营的饷需，海关税收仍由吴煦经理，用于支付常胜军、中外会防局与镇江防军的饷需，此即海关与厘税分收分用政策。
实行分收分用后，负责征收厘金的淞沪厘捐局与江苏厘捐局由此成为淮军的后勤机构。李鸿章视捐厘为淮军的两大命脉之一，亲自带着人往复查看账目，所网罗和动员的幕僚也比其他任何部门都要多。不久，成效就出来了：每月所征收到的厘税多则二十余万，少的也有近二十万，大大超过吴煦原先所报数字，在基本解决淮军饷需问题的同时，还保证湘军西线作战所需。
吴煦、杨坊之前能够牢牢控制上海的人事、财政和外交大权，一个重要的原因是他们长期经营上海，与洋人关系颇深，可以“挟夷自重”，李鸿章在条件没有完全成熟的情况下，也只能避开海关，先从没有洋人插手的厘捐着手进行整理。
显然，在设法扳倒吴、杨的同时，还必须把所谓的“洋务”接过手来，李鸿章也因此在他的幕府里配备了相关人才，郭嵩焘即为其中之一。
郭嵩焘在“丁未四君子”中排于次席，他不仅是李鸿章的同年，而且还是好友，两人政见相同，堪为知己。咸丰年间，郭嵩焘曾任翰林院编修，并经人举荐，得以入值南书房，成为天子近臣。可惜此人性格过于率直，终因得罪大吏而被降职，他一怒之下，便弃官回乡，一待就是两年多。
李鸿章需要帮手，急切想把正赋闲在家的郭嵩焘招入幕府，但他知道郭文人气质较浓，有名士作风，又有曾入值南书房，两次蒙天子召见的经历，未见得肯给自己当幕僚，于是便多次写信给曾国藩，让这位郭嵩焘的儿女亲家出面，终于将郭嵩焘请出了山。
郭嵩焘是当时少有的洋务人才，又有相当的从政和军旅经验，李鸿章通过举荐他接替杨坊的苏松粮道一职，一举夺回了掌握海关税收的权力。不仅如此，郭嵩焘还通过采取种种整顿措施，使湘淮军的粮财状况都大为好转，李鸿章在给曾国藩的信中称赞道：“筠仙（郭嵩焘字筠仙）到沪后，深孚众望，其才识远超过一般人。”
真神技也
1862年年初，上海迎来了一场五十年未见的暴风雪。暴雪纷纷扬扬，下了整整三天三夜，之后便到处冰天雪地，就连往日波涛汹涌的黄浦江，居然也结冰封冻，可以行车走马了。
比严密更让上海官绅恐惧的，是太平军的兵临城下。忠王李秀成在攻陷杭州后，指挥十二万大军，呈三面七路之势，开始围攻上海。在黄浦江封冻的情况下，他们只需越过冰面，就可以攻入市区甚至租界了。
所幸太平军对突如其来的严寒天气同样缺乏准备，部队军衣单薄，新配备的后膛枪的机油也被冻住，士兵拉不开枪栓，放不了枪。两两抵消之后，暴风雪反而延续了太平军的攻势，使他们不得不暂停进攻，进行内部调整。
然而上海官绅并不敢松口气，因为他们知道，只要天气稍一转暖，太平军必然还将发动大规模攻势。在淮军现身之前，上海的防守力量极为薄弱，本地防军近乎不堪一击，常胜军兵力又太少，对于扭转战局而言，无异于杯水车薪，如此一来，从千里之外请来的淮军，就成了上海的救世主。
可是当淮军走出船舱，登岸列队时，众人却都大失所望。只见他们身着芒鞋短衣，布帕包头，满嘴的安徽土话，由于在船舱底下闷了几天几夜，身上还散发出难闻的气味。武器方面，淮军和湘军没有太大差别，都以刀矛为主，配以少量土枪土炮，与洋兵包括同样已装备洋枪的太平军相比，显得颇为简陋。
拥到码头的官绅一边迎接，一边心里打着小鼓，他们对于自己花重金雇船请来的这支武装已经开始产生怀疑。很快，上海的街头巷尾也都议论起来，人们看到淮军下身穿一条布袋的裤子，便称之为“大裤脚蛮子兵”。驻扎上海的英法联军更是直接讥笑淮军是“叫花子兵”，淮勇所穿号衣的前面是个“淮”字，后面是个“勇”字，他们认为这就等于在给对手拿枪当靶子打。
即便不直接当着面说起来，李鸿章也能感觉得到人们眼光中的异样，他勉励部卒：“军人最重要的是能够战斗，不是光追求外表好看，等我们打它一个胜仗，看人家还笑不笑。”
来沪之前，对于西方和洋人的认识，李鸿章与国内其他士大夫一样，都没有摆脱优越自大的文化心理定势。据说他到上海后一连三天三夜不出门，吴煦以苏松太道的身份去跟洋人会谈，他就便服尾随而去，会谈结束后，洋人对吴煦说：“你这个道台卑躬屈膝，不怎么样，但是你后面的这个人（指李鸿章）英气勃勃，不得了。”
尽管被洋人高看一等，但李鸿章自己的感受却并不好。首次与洋人接触后，他发出了“如李陵、王嫱（即王昭君）之入匈奴”的感慨，觉得自己简直就像跟魔鬼打交道的人一样，之后也极力避免淮军与洋人掺杂，当然更谈不上向对方学习了。
实际上，当时的李鸿章还根本看不出西方有什么地方，值得他们堂堂的大清王朝学习，他在给部卒打气时，也显得颇为自信。然而，现实是残酷的，自1862年4月中旬起，英法联军在增加大批援兵的基础上，于上海周边展开了所谓的“三十里半径战役”，正是这场战役给李鸿章带来了一种前所未有的惊讶和冲动。
4月17日，联军进攻并一举攻克了太平军所占领的周浦镇。那天是李鸿章抵沪的第十一天，作为观摩者，他看到联军队伍规整，尤其重炮射击相当精准有效，乃攻击坚固营垒的利器，足令对手胆寒。
淮军使用的火炮是劈山炮，乃湘军自己创制的陆战火器，曾国藩对之特别喜爱，誉之为“陆军第一利器”，但是实际上，劈山炮的威力只堪与洋枪的威力相比，和洋炮并不在同一水平线上。周浦镇一役后，联军又攻占了嘉定等地，每次战斗，均由数千洋兵参战，战场上枪炮齐发，近乎攻无不克。在此过程中，被中国人称为“落地开花炮”（也称开花炮、炸炮）的洋炮屡屡显示出威力，李鸿章忍不住赞叹：“真神技也！”
即便是非正规军编制的常胜军，也颠覆了李鸿章原来的认知。常胜军原名洋枪队，是由美国人华尔任管带官的一支雇佣军，军官全部为洋人，士兵原为菲律宾人，后又改募华人，兵员已扩充至千人。
李鸿章与常胜军有过几次接触后，曾将其讥为“蠢然一物”，在他看来，常胜军的军官不过一百多人，而且全是一些不登大雅之堂的外国流氓。这话说得倒也没错，常胜军的军官确实多为欧美在沪水手、逃兵、流浪汉，如果用湘淮军的标准，他们是根本不可能被录用的，但问题在于，常胜军同样具有训练有素，武器先进的特点，其实际战斗力也远在淮军之上，在“三十里半径战役”开始之前，他们就已在上海周边打过好几场胜仗，乃是太平军的劲敌之一，常胜军之名即来源于此。
在上海的所见所闻，使李鸿章迅速改变了对西洋文明的漠视和抵触态度，赞叹洋兵、洋器成为他这一时期的兴奋热点，在写给曾国藩的信中，他也开始不厌其烦地称赞起了洋枪洋炮的威力。
痞子腔
李鸿章和他的老师曾国藩一样，都属于传统型的儒者，李鸿章本人在科举道路上也达到了当时读书人所能达到的最高峰，但他勇于任事，并不过多倾心于传统儒学，他平生的志向也从来都不在读书研习之上。有人因此嘲笑李鸿章“不学无术”，然而也正因如此，与一般士大夫相比，他比较容易摆脱对传统的留恋，在异样的环境中也更具生存能力。
李鸿章一到上海，就发现诸多事务中，以洋务为最难，而上海洋务已成尾大不掉之势，他最初的打算是想方设法敷衍掉，但很快又产生了使洋人势力为我所用的想法。在给沈葆桢的一封信中，他如此解释：“（上海）华洋混杂相处的局面已经形成，我们这些人怎么能与洋人强分彼此呢？”
淮军初至上海时，不过才六千多人，“兵力不能剿，只能防”，所谓防，是城北外国租界靠洋兵，淮军仅足以防西南。让洋人参与防守，叫作会防，对于这一点，朝野并无太大异议，有异议且极为敏感的是“会剿”或“助剿”，也就是用洋兵进攻太平军。人们对此有不同看法，有的赞同“会剿”，有的反对“会剿”。曾国藩主张后者，他认为借洋兵“会剿”太平军，对中国人而言，是一个很丢面子的事，会因此受到洋人的轻视，而且也很难保证洋人在获胜后不会提出额外要求。他在得知洋兵可能要“会剿”苏州、常州和南京之后，更是极力反对，希望李鸿章对此引起重视。
防与“剿”是不能截然分开的，“剿”就是在减少和分担防守的压力。李鸿章实际属于会剿派，但他也不能将老师的担心弃之不理。就曾国藩最关注的洋兵“越界”问题，李鸿章与英国驻华海军提督何伯进行了会谈，结果发现洋兵“会剿”苏州等地的说法根本不可靠，只是江苏绅商捕风捉影所弄出来的可笑传闻，于是他立即将这一情况告知了曾国藩，以解其疑虑。
其时，英法联军尚未发动“三十里半径战役”，但李鸿章通过他所观察到的种种迹象，断定：“洋人与太平军的冤仇已经结成，从此以后必定要上海附近为官军助剿，这是绝无疑义的。”之后他的这一判断得到证实，也坚定了他关于只要将范围限制在上海百里以内，就可以借助洋兵“会剿”的想法。
不管是办洋务，还是借洋兵“会剿”，都必须与洋人打交道。李鸿章率淮军初抵上海，何伯就立即指名要他派兵，一会儿说要一同会攻，一会儿说是等洋兵攻占城池后，要把城池交由淮军驻守。李鸿章明知上海防守还离不开洋兵，对洋人的指手画脚和径直调派又颇以为忧。
对于这类难题，曾国藩给出的建议是“忠信笃敬”。“忠信笃敬”四个字出自儒家经典，大意是忠诚信实、仁慈厚道，听上去大义凛然，然而就彼时的李鸿章而言，却等于是空口说白话——在与洋人接触的过程中，这套儒者待人处事的哲学并无多少可操作性，你这边又厚道又讲信用，人家那边却偏偏不吃这一套。按李鸿章所说，洋人骄横多疑而又性急，往往双方经过反复辩论，仍得不出任何结果。
李鸿章与洋人交涉，前半段与“忠信笃敬”接近，李鸿章把它概括为“委曲周旋，只求对外重视和好，对内做到自立自强”，在洋人提出要求时，一般能答应的就答应，不能答应的就加以婉言劝慰。
进入后半段，洋人开始纠缠不休，此时最为关键，李鸿章便耍起了“痞子腔”。“痞子腔”是皖中土语，乃油腔滑调的意思，也就是自此起，李鸿章就不跟洋人正经说话了，嘴里句句都是插科打诨，胡搅蛮缠。
李鸿章的“痞子腔”犹如他的二杆子精神，颇有不按常理出牌的意味，只不过从官场移用于外交场合而已，用李鸿章自己的话说，“你通情达理，我就通情达理，你不通情达理，我也就不通情达理。”
出人意料的是，“痞子腔”颇有奇效，洋人很吃这一套，对于李鸿章的言顾左右而言他，他们表现得既无可奈何，又发不得火，而且下一次仍愿意与李鸿章对话。在“会剿”一事上，李鸿章也因此获得了他所想要的部分主动权，经过谈判，何伯与之签订“共争共守”协议，按照协议，李鸿章从原上海防军中挑选出数千人，随同洋兵操练驻扎，专供会防和“会剿”之用，他自己所直接统带的淮军则专防一处，专“剿”一路，力求自立、自强，不与洋人混杂在一处。
洋枪
早在湘军围攻安庆期间，胡林翼曾前往视师，据说当他巡游至安庆长江水道时，忽然遇到两艘洋火轮，它们逆流西上，迅如奔马，疾如飘风，很快就超越了湘军水师，甚至水师船只都险些被其激起的波浪所掀翻。
见此情景，胡林翼的脸色为之大变，急忙勒马回营，中途还吐了血，差一点从马上掉下来。他原先就有疾在身，精神上受到的刺激，使其病情加剧，没过几个月，就在军中病逝了。
西洋火轮可以在江中劈波斩浪，耀武扬威，湘军战船勉强不被掀翻，就算是上天恩典了。原来洋器这么强，自己这么弱，胡林翼变得悲观至极，同时又不知道如何是好。在他生前，幕僚每次与之论及洋务，他总是摇手闭目，说：“这不是我们所能了解的。”表情显得既痛苦又无奈。
洋器的厉害，胡林翼和李鸿章一前一后，都见识过了，李鸿章的不同之处在于，他的思维方式是完全开放式的，他不仅愿意接受现实，承认洋器在己之上，而且善于吸收一切新知识，并将其中自己认为有实用价值的部分化为己有。
在搭船顺江东下，前往上海的途中，李鸿章接触了洋火轮，他在觉得不可思议的同时，并没有像胡林翼那样感到绝望，而是立即对船上的蒸汽炉着了迷，并想象着哪一天中国能不能制造出自己的轮船。自现场观摩洋兵作战后，他又化装成老百姓的样子，溜上停泊在长江口的英法军舰进行参观，结果发现洋人的海军也像其陆军一样出色。在致曾国藩的信中，李鸿章用一种特别向往和赞美的语气描述道：“大炮精纯，火药精巧，器械鲜明，队伍整齐。”
中国武器确实远逊于外国，无论海陆军，作为军人，李鸿章从内心深处感到了一种羞耻感。他一再对身边将士们说，我们应当虚心忍辱，就算是只能从洋人处学得一两种秘技，对我们也是有益的。如果我们长期驻扎上海而不能吸收洋人的长技，以后将后悔莫及。
李鸿章这种叹服于洋人长技的态度，却立即遭到曾国藩的反对，并以“用兵在器不在人”，不要“崇信邪教”来对他进行告诫。李鸿章属下的原湘系将领程学启、郭松林等，对洋人长技也有些抵拒，这些反对意见，一度给李鸿章带来很大压力，但当他发现苏南太平军已先于淮军装备洋枪后，立刻激发起了其强烈的求变心理：李秀成的部队兵员最多，洋枪也最多，洋人的利器可为太平军所有，为何不能为我所用？
湘淮军只有多用西洋军火，才能与太平军抗衡！李鸿章甚至还想到，就算有朝一日和洋人发生冲突，只要拥有和洋人一样的武器，尤其开花炮和火轮船，也足以令洋人敛手，使他们不敢小看我们。
开花炮和火轮船都是重型装备，暂时还顾不上，当务之急是装备洋枪。所谓洋枪，是指由西方传入的击发枪，当时淮军主要使用的枪支均为小枪（也称鸟枪或火绳枪），相比于小枪，洋枪更加简便可靠，且不受气候影响，其中的线膛枪由于增加了膛线，命中精度更是大大提高。
李鸿章在接任署江苏巡抚前，无权调拨军饷大批购买武器，只能通过联络洋人代购、委托同僚采办等方式，零星购买一些洋枪进行试验，接任之后，才开始派人奔走于上海、广州、香港、纽约等国内外军火市场，不惜重金，成批地采买洋枪、洋火药。按照淮军营制，每营都有小枪队，李鸿章的做法是不改变营制，只挑选弁勇，在小枪队外另行添练洋枪小队。
最初购得的洋枪有限，无法分配至各营，于是便进行部分改编，首先从韩正国的亲兵两营开始，接下来是程学启的开字营两营，四营均编组洋枪小队与劈山炮混合作战。
尚未等李鸿章购买更多的洋枪，战局就发生了重大变化。1862年5月底，英法联军的“三十里半径战役”进入尾声，他们攻占了青浦，尔后说要顺路攻打金山卫，让李鸿章派淮军前去接守他们撤出的城池。李鸿章本不愿意分兵，但在洋人的催迫下，也只好派出三四千人到周浦镇扎营以待。正在这个时候，太平军乘天气转暖，发起了声势浩大的春季攻势，联军作战失利，被迫撤离嘉定，退回上海，这一退不要紧，害得李鸿章也不得不赶紧将进扎周浦的淮军调回了上海。与此同时，由常胜军一部所防守的青浦，也遭到重重围困，华尔亲率常胜军主力前去援救，却未能为青浦解围。
联军的大撤退，标志着“三十里半径战役”业已前功尽弃，英国驻华陆军司令士迪佛立是这场战役的策动和指挥者，他致函伦敦：“我认为，目前形势下我所指挥的部队仅能守住上海城本身。”
太平军得手之后，已呈锐不可当之势，上海战场的主动权，重新回到了他们手中。一度曾经意气飞扬的联军被打蒙了，从上到下都行动消极，不愿出战，几乎变得跟被他们鄙视的八旗、绿营一样了。
武翰林
继太平军首次兵临城下，差点踏冰破城之后，上海再度处于危急之中。此时距首批淮军抵沪，已经过去了将近两个月，对于淮军而言，若是还不能够痛痛快快地打它一仗，不但将加剧危机，而且必然会遭到洋人的轻视，以后打交道就更难了。抱着这一想法，李鸿章决定趁太平军立足未稳之机，指挥淮军发起主动进攻。6月2日，他派程学启、韩正国、滕嗣武等率部进扎距上海城仅二十里的虹桥，此时太平军五千余人也正进逼虹桥，并与走在最前面的开字营狭路相逢。
淮军里新勇较多，没有打大仗、恶仗的经验，只有程学启所率开字营皆为太平军降众，几乎个个身经百战，开字营在各营中的战斗力也最强。程学启在湘军时不被曾氏兄弟信任和重用，心存不平之气，对于千方百计对他进行招致的李鸿章，则更感其知遇之恩，自脱离湘军后，他一直有一股奋死效命的劲头，当下他毫不畏惧，整队猛扑，太平军未料到对方会如此凶猛，当即败下阵来。
程学启率队驻于虹桥，淮军其余各营也每营派出五队，前往驻扎，虹桥始转危为安。四天后，程学启再接再厉，先是攻破了太平军在七堡的营垒，接着又在泗泾击败了太平军。
在李鸿章发起的这次进攻战役中，虹桥之战只算是无意中打的一个小胜仗，但一下子将淮军的形象树了起来，因为在此之前，上海人还从来没有见过清军能打胜仗。
为解松江、清浦之围，李鸿章派程学启、韩正国、滕嗣武等各带五队人马，作为前队，先行向松江进击，次日黎明，程学启等即进逼泗泾，同太平军展开战斗。
在前队出发的当天夜里，李鸿章也以前敌总指挥的身份，亲率各营启行。有人劝他说：“您是国家重臣，应当持重，不可亲冒矢石。”李鸿章的回答是：“如果我不亲自督阵，士卒们必不能如此舍命报效。”人人都知道他从戎前的身份是翰林院编修，每当他在阵前出现的时候，大家都不叫他大帅了，而是呼为“武翰林”。
松江战役打得跌宕起伏。1862年6月17日，开字营在新桥遭到太平军大部队的包围，里里外外被围了数十层。程学启集中枪炮进行抵御，开字营虽然已有洋枪，但数量较少，多数还是小枪、抬枪（重型小枪）以及劈山炮，这些所谓的火器均为旧式前装枪炮，弹药须由枪炮口装入膛内，然后再以火绳引燃轰发，每当来不及引燃时，程学启便指挥弁勇抛投砖石。太平军不断冲锋，又不断被击退，官兵随死随拖，随拖随上，很快，拖下来的尸体就填满了战壕，场面异常惨烈。
太平军没有劈山炮，但一杆洋枪就能抵得上一门劈山炮，战场之上，他们每次发起冲锋，都必定要投入数千杆洋枪，火力相当之猛。经过几番拼死冲锋，开字营的防线开始出现松动，危急时刻，程学启登上营墙，亲手点燃劈山炮，用炮火进行拦阻，但太平军仍直扑营墙。眼看太平军已冲到垒前，程学启干脆打开壁门，率开字营发起反冲锋他们先以枪炮轰击，继之以白刃格斗，终于迫使对手稍稍退却，然而太平军随后又增兵再扑，乃至九进九退。
一直到李鸿章率郭松林等来援，淮军才得以全面翻盘，程学启空壁冲出，大呼奋击。面对淮军的内外夹攻，太平军抵挡不住，溃退而去，当天，在泗泾、松江附近据守的太平军也全部撤退。
6月19日，李鸿章乘胜挥师进攻，程学启、韩正国、滕嗣武等兵分三路，击破泗泾的太平军营垒，松江之围遂解，从上海至松江范围内的太平军被全部肃清，上海危机亦由此消除。
松江战役是淮军驻沪的第一场大胜仗，而且是在没有洋兵的协助下独立作战，其意义非同一般，上海因而轰动，市商新闻纸对之津津乐道。在此期间，英法等洋兵继续避而不出，淮军报捷的消息传出之初，他们还以为淮军是靠常胜军才打了胜仗，后来发现不是，才意识到他们原先印象里的那支“叫花子兵”居然如此生猛剽悍，在面面相觑后，都不得不对淮军竖起了大拇指。
至此，淮军气势已变，原先与联军之间纠缠不休的“会防、会剿”问题迎刃而解，常胜军亦基本接受了李鸿章的指挥。这让李鸿章大感欣慰：“幸而我军获胜，洋人对我们才心悦诚服，如果我军出战受挫，那么在上海就没有立足之地了。”他随即向曾国藩报捷：“这场仗打得太痛快了，可算是为数年不振的上海军务出了口恶气……有此胜仗，我军可以自立，洋人可以威慑，老师您可以放心了。”
骁将
在松江新桥战役中，开字营弁勇重伤八十余人，阵亡十人，程学启亦负轻伤。自此以后，程学启便受到了李鸿章的特别器重，被李鸿章视为左膀右臂。
程学启乃太平军降将，要是他还在重视门第身世的湘军中，无论如何得不到如此的青睐，其实即便在淮军将领中，也有人对此持有异议。
统将刘秉璋早年即师事李鸿章，他也是淮军中除李鸿章外唯一的进士，然而自觉亦未能得到重用。若干年后，李鸿章的弟弟李鹤章对他发牢骚，认为自己在淮军中混得不算得意的原因，是年轻时没能取得大哥那样的功名之故，“恨不能读书成进士，入词馆（即翰林院），为带勇根基”。刘秉璋就信口把淮军将领列为十等，太平军降将为第一等，第六等为秀才，以后按功名往下面排，进士、翰林分列第九、第十，为最下等。李鹤章适为秀才，刘秉璋便戏谑地对他说：“李公你本为第六等，又何必羡慕第九、第十等呢？”
刘秉璋日后能作此愤激之语，当初在淮军中也不可能不露出情绪，其他人亦有不满和非议，但李鸿章置若罔闻，依然以实际功劳和能力，作为擢升将领的标准。经李鸿章奏请朝廷许可，程学启被授副将衔，并赏“勃勇巴图鲁”（巴图鲁是满语“勇士”的音译，清廷用来表彰武功，故而又有勇号之称）。不久，李鸿章又给程学启增添了一个营，使开字营由两营扩至三营，打破了淮军各营头原来都只有一、二营的状况。
松江解围后，青浦等地仍有太平军分守，太平军若集中其主力精锐，仍可由青浦冲入上海地区。1862年8月初，李鸿章命程学启、韩正国、滕嗣武统率所属各营，自虹桥拔队，谋攻青浦，同时又调华尔由松江带常胜军前来会攻。
常胜军以轮船驶进内河，安放大炮，轰倒了数段城垣，淮军则自东、北两门助攻，经过数日激战，迫使太平军放弃了青浦。在这次作战中，英法联军又做了看客，连英国观察家也不得不承认，淮军的努力已使得英法在上海的军事行动变得多余了。
太平军再次调集大部队，先是反攻青浦，在反攻不成的情况下，又进围北新泾，淮军多营被围。这些部队不是程学启的开字营，被围后可能坚持不了多久，李鸿章急坏了，在与李鹤章密商后，决定将驻扎青浦等地的前营人马留下一半用于防守，另外一半抽出来，急趋泗泾、七宝，抄敌后路。与以往不同的是，这次李鸿章特别赋予副将程学启以兵权，下令出击部队都必须听从其调遣。
部署已毕，李鸿章亲督上海老营七成队伍，直趋北新泾，以便对敌人进行前后夹击。在老营队伍中，韩正国所统亲兵二营首先接仗，亲兵营设有洋枪小队，洋枪以及劈山炮的数量在淮军各营中居于首位，二者火力加起来，并不比对手逊色多少。太平军不知虚实，先打亲兵营，结果碰上了硬茬——新兵营一俟对方冲近，便以劈山炮夹洋枪、抬枪齐发，太平军猝不及防，招致大败。
险情出现在包抄一方，在程学启指挥前营抵达七宝前，太平军已经提前一步占领了那里，隔断了他们与老营的联系。在这种情况下，程学启下令在七宝街北横排五营，街南横排五营，摆好了迎敌的阵势。午后三时，太平军出击，程学启在街北、街南往来调度，裹着对方打，让其左右招架，难以应付。双方鏖战多时，太平军支持不住，溃败而走。
次日，李鸿章与程学启的夹击战术奏效，北新泾之围得以解除，被围诸营获救。程学启、韩正国都在此役中立了大功，程学启更是被叙功擢升为记名总兵。由于认为青浦打下来后，只有程学启才能守得住这个前敌县城，李鸿章便让他率一千五百人同水师一营（该水师系李鸿章到沪后组建的水师）防守青浦。
程学启已成为李鸿章的心腹爱将，李鸿章毫不吝惜地褒奖他为“沪军第一骁将”，称其有勇有谋，阵前既能拼命又具用兵方略，为“十余年来罕有之将”。虽然李鸿章当初向曾国荃借用程学启时，就知道程学启能打，但还不知道他这么能打，因而在致曾国藩的信中，又连连向他及曾国荃表示感谢。
至于韩正国，主要依赖的还是所部武器精良，或者说得更直接一点，就是靠的洋枪，李鸿章由此更坚定了自己的选择，决定继续购入和装备洋枪。
营制改革
尽管李鸿章一再通过自己的所见所闻以及实际战绩，对曾国藩进行说服，然而曾国藩对使用西洋新式武器始终不甚热衷，其论据之一是，当初江南大营也装备了很多洋枪，但照样被太平军给揍得鼻青脸肿。李鸿章则不如此认为，他经过认真地观察和分析，坚持洋枪实为利器，江南大营不能打，罪并不在洋枪，根本问题还在于他们没有像洋兵那样操练队伍，未将洋枪的作用完全发挥出来。
武器装备发生变化，训练方法亦应随之改变。当时国人将西洋军队平时的军事训练方法称为“练洋操”，淮军刚到上海时，英法都曾向李鸿章提出拨兵交其训练的要求，李鸿章应其所请，从原上海防军和练勇中拨出兵员，交由英法代练，练成后分别组成了会字营、庞字营。后来因为担心洋人借此操纵兵权，把他这个巡抚撇到一边，李鸿章便以代练费用过大，且会导致今后调度不灵为由，拒绝再将所部拨交外军教练。
对于“练洋操”，李鸿章的兴趣其实是非常大的。还在最初的观察体验阶段，他就吃惊于洋兵临敌时的整齐静肃，为此曾利用与洋人交往之便，密令身边的将弁随从，跟随洋兵出战，除了观察他们如何施放枪炮外，就是想把对方“练洋操”的技术学到手。
李鸿章的这一套路，实际是要让淮军“与洋人合打”，但只有程学启羡慕洋人的开花炮，表示愿意，其他统领营官都很抵触，于是只能不了了之。
此路不通走彼路，李鸿章转而盯上了常胜军。常胜军虽受李鸿章节制，但当李鸿章刚到上海时，管带官华尔却拒不来见，给了他一个下马威。李鸿章一边自嘲“与外国人何必争此小细节”，一边主动与华尔打交道，不久他就发现，华尔尽管为人狂放不羁，然而打仗勇猛，性格也很直率，没有太多心计，于是便对他进行全力笼络，以为己用。
常胜军的训练方法也好，武器也好，都与英法联军没有区别。华尔被李鸿章一通哄，在与会防、“会剿”的过程中，开始密切与淮军配合，不仅如此，他还答应今后派军官教授淮军“练洋操”，以及为李鸿章代购洋枪洋炮。
搞定华尔后，李鸿章甚为得意，特地写信告知曾国藩。曾国藩同意笼络华尔，却不同意李鸿章的居心和做法，他以宋人道学教训李鸿章，称“驭将之道，最贵推诚，不贵权术”。
曾国藩说的每句话在道德制高点上都能立得住，但对解决上海方面的实际问题却毫无用处，李鸿章口头上不敢违逆老师，实际仍按照自己的想法大胆施行。他这样做的结果，是使淮军更加快速地走上了用洋枪炮装备的道路，原先李鸿章主要通过正在广东任职的李瀚章购买洋枪，有了华尔这条便利渠道后，代购变得比原来容易多了，至1862年9月，淮军总计已拥有洋枪一万余杆。
在北新泾、七宝街战役前，除韩正国的亲兵营、程学启的开字营外，郭松林的松字营、刘铭传的铭字营等，也都添练有洋枪小队，各营总计拥有洋枪千余杆，已能与湘军营制所规定的火器相配合。不过这些都只是在原营制外添建洋枪小队，属于临时措施，而非根本之计。自9月底起，李鸿章着手进行营制改革，他首先将程学启所统开字营三营中的一营改为洋枪队，并在每哨中加添劈山炮两队。这是在洋枪仍不算多时所采取的特殊编制，但在当时已算是一种新式编制了。此后，淮军各营陆续将原有的小枪、抬枪、刀矛队改为洋枪队，各营原有的旧式枪炮一律裁汰不用。经过改编，淮军每营所配洋枪多则四百余杆，少则三百余杆，尽管这些洋枪实际仍系前膛枪，但已改为铜帽底火，射程与火力都数倍于旧式小枪、抬枪，故而在人数依旧的情况下，一营的实际火力却至少可抵以前的两营。
淮军初建时，一切器械、营制皆仿照湘军，现在能如此迅速地引入洋枪和更改营制，固然主要取决于李鸿章的明智和果决，但也与淮军的实际状况及其环境有关——淮军刚刚成军，制度和战法尚未规范，且又是在上海与常胜军、英法联军并肩作战，故而易于改用西式武器。
淮军源自湘军，本以湘军为师，但现在却已以常胜军为师，不仅通过华尔购入武器，而且也向常胜军学习现代军事操练和战法。湘淮军由此迅速拉开差距，很快，连湘军都要反过来效仿淮军了，正在指挥所部围攻南京的曾国荃，一再向曾国藩索求洋式军火，最后逼得曾国藩没办法，只好又主动要求李鸿章代湘军购置洋枪。
强留
李鸿章更改淮军营制，在装备洋枪的同时，仍以旧式劈山炮配合洋枪使用，这主要是因为使用洋炮需要一定的技术，成立洋炮队的时机和条件尚未成熟。
劈山炮只能用于野战，轰击坚固城池，靠的还是洋炮，常胜军拥有洋炮三十余尊，淮军最初发动的攻城战，大多也必须依赖于常胜军的洋炮队。1862年9月下旬，华尔在率常胜军攻打浙江慈溪时，中弹身亡，由谁继承华尔之位，成为常胜军新的管带，由此成了一个悬而未决，需要各方博弈的问题。
英国人很清楚，要保护自己在远东的利益，就必须保证不让清廷被太平天国所推翻，太平军对上海的进攻和威胁更佐证了这一点。于是不需要任何纸面和口头的协议，英国政府就与清廷建立了事实上的战略合作伙伴关系，为了帮助清帝国度过其最危险的阶段，他们“雪中送炭”，不但出主意，想办法，而且出力援助。
上海战场是中英维系这种特殊关系的一个纽带。常胜军很早就已纳入英国驻华陆军司令的统一指挥之下，但统领却是美国人，英国人对此很不舒服，华尔被击毙后，他们便想借机把常胜军的管带权夺过去。
英国驻上海领事首先向英国驻华陆军司令士迪佛立建议，让他抓住这个机会，“推荐一位自己选择的英国军官来填充华尔的位子”。士迪佛立随后通过吴煦（他和杨坊当时都未完全下台）向李鸿章传话，并表示如果接受他的推荐，今后还可以将别的英国军官也借给中方。
不料英国人的这一意图和做法，却遭到了美国驻华公使蒲安臣的反对。与此同时，李鸿章对英国人其实也不放心，他害怕将常胜军交给英国军官统领后，使常胜军变成又一支英军，以致事事掣肘，调度不灵，于是便采取暂时“装糊涂”，实际是等待时机的办法，听由杨坊“妥办”。
经吴煦、杨坊与洋人商量，决定以常胜军会同管带、美国人白齐文接替华尔的职务，他们将这一方案报告给李鸿章，李鸿章顺水推舟，当面答应下来，此后常胜军的管带官便改成了白齐文。
除了与常胜军进行配合外，淮军还开始和英法联军联合“会剿”。入沪之初，李鸿章和曾国藩一样，对于“会剿”一直持谨慎态度。随着时间的推移、在实践中和洋人打交道的深化，特别是淮军自身实力和自信心的不断增强，李鸿章在“会剿”问题上的态度发生了急剧变化。他向朝廷明确表示：借助洋兵“会剿”，从总体上说，确实应该将他们限制在上海百里以内，但如果情势紧迫，让他们深入“腹地”也没有什么关系。
10月，正当曾国荃兵围南京，李秀成奉命率所部太平军由苏州回援的关键时刻，李鸿章乘机指挥淮军与英法联军、常胜军协同作战，攻克了嘉定。在开战前，李鸿章应邀赴英国领事馆，在与何伯、士迪佛立会商后，签署了一项会议记录，上面明确规定，今后淮军、联军任何一方调动军队，都必须通知另一方，同时双方必须相互提供关于太平军行动的消息。
至此，淮军、英法联军、常胜军和湘军之间，已形成上下呼应、分进合击之势，太平军陷入了东西两面作战的困境，东线太平军也不得不转攻为守。李鸿章一方面不断济协曾国藩军饷，为曾国荃代购洋军火，但另一方面为加速战斗进展，对重要将才则抓在手里死死不放。
曾国荃组织所部围攻南京，要求调原湘军将领郭松林前去参加助攻，李鸿章担心郭松林一去不复返，便找借口推托了。其时，曾国藩所一手创办的淮扬水师、太湖水师，均在李鸿章的统属之下，曾国藩屡调淮扬水师统领黄翼升，前后十三次来信与黄翼升协商，但都被李鸿章压了下来。
曾国藩是李鸿章的恩师，李鸿章对他向来恭敬有加，待之如同严父，但唯独在将才归属上，就是不肯让步。曾国藩被惹火了，他不好责难李鸿章，便拿黄翼升出气，具折予以参劾，李鸿章见状竟然直接跳出来，上奏挽留黄翼升。一个要参劾，一个要奏留，朝廷收到奏折后，便两两相抵，仍让黄翼升留在原位，为了这件事，曾李师生间很闹了一阵意见。
在淮军将领中，最受李鸿章欣赏和重用的，无疑还是程学启。淮军统领将兵，已不像湘军那样，全靠自募，而是多由它营归并，能够归并到多少营头，主要看的也是统将带兵作战的能力，统领越能打，李鸿章拨并给他统带的营数就愈多，反之则愈少。10到11月间，李鸿章已令程学启节制三四千人，湘淮军通常是五百人为一营，程学启一人已可指挥六到八个营，如此规模，就不是一般的营了，在淮军中称为大枝营头。
当初曾氏兄弟将程学启借给李鸿章的时候，也并不知道他如此能战，如今均颇有悔意。此时曾国荃顿兵南京城下，屡陷危局，于是急调程学启带全军雇轮船回援。李鸿章连郭松林、黄翼升都不肯放，就更不要说程学启了，正好太平军在嘉定失守后，从苏州、嘉兴调兵回救，李鸿章便乘机截留程学启不放。他对曾氏兄弟力言程学启的重要性：程镇（程学启）日夜在前线苦战，勉力支持，临敌调他走，不但没有人可以代替他，从而导致青浦、嘉定得而复失，松江、上海也将受到严重威胁。
“这里不能没有程镇，一旦有危难发生，鸿章如何立得住脚？”曾氏兄弟明知李鸿章是在强留程学启，但他既已把话说到这个份上，也就不好再勉强了，更何况程学启在淮军中如鱼得水，自己也不愿再回湘军。
程学启是曾国藩下命令，让曾国荃借给李鸿章的，哪想到李鸿章会有借无还呢！曾国藩只好带着歉意对曾国荃说：“我近年来觉得对不起老弟的事，只有拨去程学启一项。他真是一员名将，这件事给阿弟造成损失了。”
白齐文事件
李秀成回援南京后，苏州等地的太平军由慕王谭绍光统一指挥。1862年11月，在重夺嘉定无望的情况下，为防止敌军乘势进攻苏州等地，谭绍光先发制人，调集水陆大军反攻，将淮军四营围困于四江口。程学启督各营援救，战斗非常惨烈，两天之内，营官大多受伤，员弁（低级文武官员）阵亡十三人，勇丁伤亡六七百人。程学启胸部被子弹打中，身负重伤，但他愈是这样，督战愈急，悍将本色尽显。
李鸿章深恐被围之军覆灭，立即增调援军，连同常胜军近两千人，在四江口大战太平军。此时李鸿章通过不断的实战历练，已总结出了战胜太平军的经验，他发现李秀成的苏南太平军以江浙皖籍的“新长毛”为主，作战的意志力和韧性远不如“老长毛”，所谓久则无斗志，他们之所以能坚持，其实靠的也是洋枪，其洋枪不仅数量多而且火力猛。在这种情况下，己方如果光靠刀矛和土枪土炮，根本就奈何对方不得，那该怎么打呢？要“以洋对洋”，也把洋枪用上去，再夹以太平军所没有的劈山炮，辅以抬枪、小枪，几种火器一齐上，则太平军必将瓦解。
四江口之战也正是如此，太平军在洋枪对射中不仅没能占到优势，反而被冲乱了阵脚，其大队一乱，军令不通，士兵就慌了，军心开始涣散。淮军被围四营看到后，也趁机出击，内外夹击之下，太平军大败，全军被迫撤回昆山，并折损了一万多人。
四江口一役，是对淮军大规模引入洋枪和实施营制改革的最好验证，参战的程学启、郭松林都说，这是他们从军以来打得最为痛快的一次大捷，战后程学启即奉旨以总兵遇缺提奏，并加提督衔。
常胜军在四江口之战中出力颇多，但素来奖罚分明的李鸿章，却只字未提洋将白齐文。原来在白齐文走马上任后，李鸿章为使之能够被己所用，曾仿照与华尔打交道的模式，对他曲意笼络，不料白齐文不仅比华尔更加桀骜不驯，而且还不像华尔那样容易驾驭，不管他怎样哄，都不买他的账。除此以外，白齐文带领下的常胜军开支庞大，白齐文及其部下干预松江民政、劫掠乡民等不轨行为，也令李鸿章颇为不满。
过去吴煦、杨坊等上海官绅惯于“挟洋自重”，即对洋人顺从依附，再利用洋人的威风来恐吓和挟制国人，比如他们在李鸿章面前，就惯于以自己对常胜军的控制来讨价还价。李鸿章虽然也主张利用和笼络洋人，但同时也不忘记对之严加防范，强调要在利用中控制，在控制中利用，不能予其全权。白齐文如此不服管束，胡作非为，早已超出了李鸿章的容忍范围，本来他并不想将常胜军交给英国军官统领，但是两害相权取其轻，还是决定商请士迪佛立，以白齐文“难以指挥”，恳请将其调走，改以英国军官代替。
士迪佛立虽然早有通过派人接管常胜军之心，可是因为之前美国驻华公使蒲安臣已经放话，他表示自己无权答应这一请求，只能向英国政府及英国驻华公使代为转达。
在换白齐文无果的情况下，李鸿章和白齐文的关系逐渐变得紧张起来。四江口之战后论功行赏，由于担心白齐文会居功自傲，李鸿章便有意排挤他，把战功都归于程学启和淮军，这使白齐文大为恼火，以致口出怨言，认为是程学启把本该属于自己的功劳给抢走了。
1862年秋冬之际，白齐文与李鸿章之间的争执趋于白热化，同时他和吴煦、杨坊等也渐有矛盾，吴、杨对付常胜军的办法之一就是控制军饷，见白齐文不把他们放在眼里，于是便以拖欠军饷来回应。
当年12月，李鸿章命令吴煦、杨坊督带常胜军“助剿”南京，白齐文一面以已经两个月未发放军饷为由，迁延时日，迟迟不肯启程，一面却从上海回到常胜军的大本营松江，将城门关闭，欲率勇抢劫饷银。负责主管常胜军勇丁的参将李桓嵩发现不好，急忙暗中设法劝谕，使得勇丁们一哄而散，抢饷才未得逞。白齐文旋即从松江带卫队回到上海，对兼常胜军军饷经理人的杨坊表示他不愿前往南京，准备辞去差使。杨坊跟他讲道理，他不听，愤然回到松江。
1863年1月，白齐文带常胜军数十人，来到杨坊所开银号，直接向其索要欠饷，遭到杨坊拒绝后，他们将杨坊痛殴一番，打得他吐血不止，然后按所欠饷银的数额，从银号里抢走了四万余元洋银。
白齐文迟迟不赴援南京，又殴官、抢饷，已经严重触犯军纪。李鸿章闻讯，当即以“劫饷殴官、不遵调度”之罪，宣布撤去白齐文常胜军管带官一职，并获朝廷通过，悬赏白银五万两缉捕白齐文归案。白齐文却声称他是奉旨统领常胜军，李鸿章无权处分他，其革留与否，应听候谕旨定夺，常胜军现仍须归他统带。
为了能够继续统带常胜军，白齐文从上海赶到北京，向英美驻华公使及清廷申诉，要求复职。美国驻华公使蒲安臣极力袒护白齐文，并以白齐文是美国人为由，欲通过行使治外法权，阻止李鸿章按照中国法律惩治白齐文。清廷负责处理此事的总理衙门迫于压力，又将该案发回上海，商请李鸿章给白齐文复职。
李鸿章接旨后，对于朝廷朝令夕改的做法深表不满，乃坚持初衷，不奉谕旨。在知晓治外法权运用范围的前提下，他紧紧抓住一点，即此前白齐文已自请加入中国国籍，受朝廷三品顶戴职衔，然后针锋相对地指出，白齐文既已是中国人，违反法令，自应照中国法律治罪。
蒲安臣被击中软肋，顿时无话可说。与此同时，李鸿章也深谙软硬兼施之道，他一边撤换白齐文，一边又上奏朝廷，建议对一些外国使领馆的官员和军人进行奖励，而这也在一定程度上平息了美方对撤换白齐文的不满情绪。
一石三鸟
事实上，李鸿章对于白齐文事件的处理也并不单纯。常胜军人马精良，但自统领以下的洋军官普遍专恣跋扈，狂傲不驯，作为其上级的清朝官员根本不能过问，更无法制约，即便是华尔，也得李鸿章又哄又骗，用尽招数才行。当时李鸿章与吴煦、杨坊等的权斗也尚未能够取得完胜，吴、杨常与之作对，而中国官员中又只有吴、杨与常胜军的军官层一直保持密切关系，他们给常胜军提供的粮饷是清军的数倍，华尔时期，杨坊甚至还将亲女儿嫁给华尔为妻，做了华尔的老丈人。
这些都让李鸿章感到，眼下固然要利用常胜军对付太平军，但常胜军本身也随时可能对他本人的权势以及清帝国的利益造成威胁，为此，他一直伺机对其加以抑制，并想借此完全剥夺吴煦、杨坊的职务和兵权，白齐文事件正好为他提供了一个难得的机会。
本来吴煦、杨坊是白齐文事件的受害者，尤其杨坊，可谓人财两失，但李鸿章却在上奏要求严处白齐文的同时，以白齐文的种种不是都与吴、杨有关为由，将他们两人也都罢了官。
撤换白齐文，拿下吴煦、杨坊后，李鸿章的下一个目标就是整顿常胜军。然而要想做到这一点并不容易，因为英国方面早就在常胜军中安排了一些英国人，白齐文事件一发生，士迪佛立便派英国军官奥伦暂行接管常胜军，又内定另一英国军官戈登接任管带官。
李鸿章的想法是，常胜军日益骄横，渐成尾大不掉之势，另外，费银也太多，已影响淮军费用，所以必须裁减兵额和军费。在接下来与士迪佛立的谈判中，双方协议将人数裁减为三千，饷项仍由中方派员经理，但若遇添办制造军火，必须由巡抚裁决，管带官不准擅专。
李鸿章关注的焦点，在于收回兵权，使主权不致旁落，因而谈判中对于兵权归属的争论最为激烈。李鸿章执意要由中英各派官员接管常胜军，并且管带官须归巡抚节制调遣，对于一切地方事宜，管带官都不得进行干预。李鸿章立场坚定，并充分发挥了自己精明的辩才，即便讲到口干舌燥犹不肯退让半步。士迪佛立只好妥协，当然英方要求也得到了部分满足，在英国政府允准后，戈登正式接任管带官，虽然中方派副将李桓嵩会同管带，但只要戈登不超出协约的约定范围，对于常胜军仍可做到大权独揽。
白齐文事件是李鸿章崛起政坛之后，作为封疆大吏处理的第一起涉外事件，统观其处理这起事件的前前后后，可以看出，他的外交理念和手段技巧已日趋成熟，真可谓是一石三鸟：坚决撤换白齐文，而且步步为营，有进有退，让洋人无话可说；乘机干掉自己的政敌、在上海经营已久的地方势力，为自己施政清除障碍；尽可能地裁抑常胜军，使其当下能为己所用，却又不致贻患今后。
与华尔、白齐文的冒险家身份不同，戈登是一个出身于军人世家的职业军人，很注重军队纪律。因为白齐文被撤换，常胜军中的数十名美籍教官经常借口闹事，戈登接任没几天，他们就突然在教练场上进行骚乱，扬言要枪毙中国士兵，还要炮轰英法籍教官。
戈登赶到后，查问带头者是谁，却无人理睬。戈登脸一板，厉声对美籍教官们说，如果他们再不交出策动者，他将在每五名教官中揪出一名枪毙。教官们以为他只是吓唬人，都挥着拳头咆哮，戈登二话不说，箭步上前，抓住其中一个吵得最凶的教官，下令卫兵将他当场枪决。枪一响，看到美籍教官已倒在血泊之中，在场所有人都被镇住了，骚乱立马平息。
戈登在控制住常胜军后，没有像他的前任们一样，马上伸手要饷银，相反，他为了给李鸿章留下深刻印象，还努力削减军饷，原来常胜军夺城后有奖金，他也主动把这一惯例给取消了。在此之前，常胜军的军火主要由其管带官自行到黑市上去购置，戈登不然，他实际是英国政府和军队的代表，其军火可由英国军队直接卖给常胜军，不仅质量好，而且相比黑市也不算贵，这样等于又减少了常胜军的开支。
让李鸿章更为满意的是，戈登没有华尔、白齐文那种令中国官员难以容忍的高傲态度，很尊重李鸿章乃至中国士兵，对李鸿章尤其表示恭顺。
西化
李鸿章在想方设法购买洋枪炮的同时，一直非常羡慕西方的军事训练方法，也即“练洋操”。当初华尔虽答应派军官教授“练洋操”，但进展并不大，在戈登之前，只有刘铭传的铭字营聘请了一名法国军官，在营中教练施放洋枪。
戈登在为淮军引入洋教习方面，比他的前任要积极得多，也认真得多，李鸿章因此命令各营都雇觅洋人。经戈登介绍，淮军各营先后从常胜军里陆续增雇二十多名英法军官，进入淮军担任教习。
淮军的训练模式沿袭自于湘军，湘军对新兵训练较为重视，但训练时间也仅一至两个月，而洋兵一般要操练六个月才能出战，洋教习们进入各营后，淮军即将新兵训练时间拉长为六个月。
所谓“洋操”，把打靶（也即射击训练）、队列训练、战术训练都涵盖了进去，这些训练项目以及其余一切阵法、号角、口令等，俱采用西方军队成法。由于洋教习不会中文，无论鸣角出令还是教授讲解，用的都是英语，弁勇们有时听不太懂，在实际训练中出现了不少困难，一度颇为影响军心士气。有鉴于此，后来淮军各营都各自组织人力翻译了洋操口令，刘秉璋、潘鼎新等进士举人出身的统领营官，还将翻译后的口令刊刻成书，分发军中使用。
李鸿章对于西式训练极为重视，亲自进行督导。淮军勇丁多募自于没有什么文化的乡下农民，即便是将口令翻译过来，在学习洋枪炮的施发时也显得笨手笨脚，李鸿章就让洋教习手把手地辅导，直至教会为止。有空时，他还自己搬把椅子，坐在教练场看弁勇演练。有一次，勇丁因操练失误，导致弹药被引爆，一下子炸死了二十多人。尽管如此，李鸿章却丝毫没有动摇强化训练的决心，说：“世间没有唾手可得之果，待弁勇能够百发百中之时，作战便将无坚不摧。”
以洋教习们为引导，淮军购置洋枪炮变得更加方便。当时英法等西方国家对“妙品”（即质量上乘的先进武器）采取禁止出售政策，一些过时的陈旧武器，在黑市上也价格高昂。英国政府既向常胜军出售军火，这些军火便可以按差不多的价格转售淮军，加上又有洋教习进行牵引和鉴定，淮军获得洋枪炮的大门一下子被打开了。此外，戈登还很大方地将常胜军停用、闲置和从太平军手里夺来的洋武器，大批赠给淮军使用，其中尤以程学启的开字营为最多，故而淮军所使用的洋枪炮，从1863年春季起，陡然大增。
李鸿章入沪后，在尚未与太平军交战之前，即惊叹于洋人炸炮（即开花炮）的强大火力，并有心仿习。他力主雇聘洋教习的用意之一，也是要购置和装备炸炮，“西洋炸炮，重者有数万数千斤，轻者数百数十斤，乃进攻防守的利器，天下无敌。”
淮军早期不但不掌握洋炮技术，购炮也很难，刘铭传想要货真价实的炸炮，但四处求购不得，后来好不容易才买到三门十二磅的炸炮，由两名法兵教习。有了戈登后，李鸿章便可通过他购买炸炮，一些更大的重弹子炸炮，因为上海缺货，戈登又特地托英法提督代购，自其本国寄来。
为了使淮军迅速学会使用洋炮，李鸿章又让戈登牵针引线，雇聘洋人数名，分给各营，加上各营自聘的洋教习，共同进行教授。1863年2月，李鸿章着手建立独立的洋炮队，淮军亲兵护卫营也即张遇春的春字营，已有炮队两百人参与战阵，这是淮军最早成立的正式炮队，中国炮兵制度由此开端。当时淮军所购用的洋炮，与洋兵一样，皆系前门炮，其中得力者尤以炸炮为最。这类洋炮不仅射程远，而且威力大，正如李鸿章所言，为攻坚防守的利器，一门洋炮的杀伤力要远远超过十几门乃至几十门劈山炮。
李鸿章在兵种方面的西化措施，不单单止于炮兵。湘军有一种长夫制，每营若以五百人计，其中有一百八十人为“长夫”，用于承担筑造工事、搬运武器弹药等杂役。淮军仿效了湘军的长夫制，李鸿章在坚持使用长夫的基础上，又参考西洋营制，将长夫发展为工兵，此后相较于长夫，淮军工兵的任务便更为复杂和专业化，可修筑洋式炮台、营垒，乃至承担疏河、修路等工程，已与西方早期的工兵类似。