錢鼎銘向李鴻章提出支援上海的請求，李鴻章痛快地答應了，同意到曾國藩面前說情。看到李鴻章充滿信心的神態，錢鼎銘籲了一口氣，知道上海有救了。
曾國藩猶豫不定之際，清廷接到上海危急的奏報，命曾國藩派兵增援上海。一面是朝廷的命令，一面是李鴻章的大力勸說，曾國藩終于打消疑慮，決定發兵上海。其實，促使曾國藩決定出兵的主要原因是，上海官紳因等不及安慶方面的消息，決定向洋人借師助剿。所謂“借師助剿”，就是借用或雇傭外國軍隊攻打太平軍。洋人表現出積極的態度，答應幫助中國平定內亂。曾國藩認為，此舉縱使解得內憂，之後必有外患！急忙上奏朝廷：“借助洋人軍隊守護上海，保衛中外人士財產是可行的，但借助洋人軍隊進剿蘇州，收複清朝失地卻萬萬不可！上海、甯波為通商口岸，應當共同守護。而蘇州、南京卻非通商口岸，如果洋人插手中國內政，將會後患無窮。大清帝國的軍隊足以自立，就像家長有足夠的權威治家一樣，沒有必要借別人的棍子來教訓自家的逆子！”曾國藩有兩層意思，一是不願留下後患，讓洋人撈去更多利益；二是害怕洋兵攻占南京，搶了自己的頭功。清廷對此事並未表態。事實上，清廷也沒有更好的辦法解救上海之圍。這樣，曾國藩不得不從自己的隊伍里挑選赴滬人選。究竟派誰去解上海之圍？一向做事謹慎的曾國藩為此傷透了腦筋。軍中有一個叫吳坤修的湘軍將領主動請纓，願領兵援滬。曾國藩想都沒想就拒絕了——上海這塊大肥肉怎麼能輕易給人？曾國藩想起了弟弟曾國荃，如果派他援助上海，自己主攻南京，雙份功勞就都落在曾家手中，豈不兩全其美？曾國藩心中初步形成援滬計劃：于湘軍營內親選六千名精銳士兵調撥曾國荃援滬，同時令曾國荃趕回湖南老家招募八千名新兵補上空缺。曾國藩對自己的弟弟並不放心，又將得意門生李鴻章派去做其副手和軍師，保證此行萬無一失。
正當曾國荃、李鴻章率近萬名湘軍奔赴上海時，太平軍卻連戰連捷，將清兵洋將打得潰不成軍。且輪船運兵一事仍未籌辦妥善，只能從陸路到達上海。水路行軍，部隊可沿江而下迅速到達上海，占得先機。陸路行軍，得穿越太平天國占領區，一路上都要攻城奪池奮勇拼殺。況且湘軍到上海後曾國荃部也只能聽命于上海道台，事事受人節制。曾國荃哪能忍受這種待遇，馬上表態不去。曾國藩兩相權衡，決定保大棄小，專意進攻南京拿得頭功，將上海之事交給別人辦理。既然曾國荃不去，李鴻章自然也去不成。曾國藩遇事愛和李鴻章商量，當然要把智囊時刻留在身邊，隨時聽取他的意見。即使曾國藩先前派李赴滬，也是因對魯莽的曾國荃放心不下而不得已為之。李鴻章卻不這麼認為，他一直在尋找獨當一面的機會，如曾國荃不去，自己單獨去更好。但既然恩師不准，李鴻章也不好表現出非要去的意思，只好靜觀其變。
曾國藩同李鴻章商量派往上海的人選。李鴻章認為湖南人陳士傑做事穩健，能擔此任。曾國藩同意了李的建議。陳士傑受命後立即招募一萬人整天操練。可時間一天天過去，陳士傑就是按兵不動，甚至接到“老佛爺”（慈禧太後）催促過江援滬的諭旨後仍不見動靜。曾國藩責問陳士傑為何拖延至今，陳眼淚汪汪地說，家里還有九旬老母，如果自己犧牲，孤苦伶仃的老媽無以為靠。晚清不比秦漢，孝順可當成一切事情的借口。曾國藩沒心思琢磨陳士傑究竟是孝順抑或怕死，朝廷已下了幾道催促赴滬的詔書，他只能另找合適人選。四十四歲的總兵馮子材躍入了曾國藩的腦海。當時馮駐軍鎮江，距離上海很近，且其頂頭上司都興阿早想占據上海。曾國藩于是通知馮子材赴上海救援，但卻一直沒有得到答複。
曆史給了李鴻章嶄露頭角的機會。曾國藩終于委派李鴻章赴滬支援。臨行前，曾國藩既高興又惋惜地說：“少荃（李鴻章的號）這一去，我可以高枕無憂了。只是少了一個得力的幫手。”同時，曾國藩向李鴻章表明，湘軍目前無兵可用，上海進剿一事須自己解決。這卻難不倒李鴻章，他就像變戲法一樣，一下子就弄了個淮軍出來。
從合肥附近招募兵勇，到編成軍隊集中安慶，李鴻章用了不到兩個月時間。即使這樣，朝廷還嫌李動作太慢，不斷下旨敦促。練成的淮勇（後改名淮軍）共分五營，按營官的名字命名。潘鼎新領鼎字營，劉銘傳領銘字營，張樹聲領樹字營，吳長慶領慶字營，張遇春領春字營，五營營官全是李鴻章的同鄉。曾國藩雖對李鴻章短時間招募一支軍隊深感佩服，但對這支新軍卻很不以為然。當時的淮勇軍容不整，根本不懂行軍禮、站軍姿；軍紀亦不嚴，一副痞子樣，尊卑無別。這些都是治軍的大忌。李鴻章卻對這支軍隊充滿信心。他和他們是同鄉，了解他們，也喜歡他們的樣子和神態。一支軍隊的好壞，關鍵在于能不能打勝仗，而不在于穿什麼衣服，用什麼腔調說話。曾國藩同李鴻章商定，淮軍的器械裝備、餉銀糧草、訓練方式完全取法湘軍。這也是李鴻章後來總提到湘軍是淮軍母親的緣故。初創的淮軍和湘軍一樣，主要使用刀矛、小槍，輔以抬槍、小炮、劈山炮等重型武器。這些武器有多厲害呢？我們以每營領到100杆的小槍為例（抬槍每營只有20多杆）。小槍從前膛裝火藥，然後還得加藥線。放槍時點燃藥線，如果藥線受潮，就成了啞槍。至于抬槍、小炮、劈山炮等也都是些毛病多、威力小的舊式武器。所以李鴻章到上海見到洋槍洋炮時才會驚歎不已，同時改造淮軍的第一項措施就是淘汰舊式武器。