當年，淮軍奔赴上海阻擊太平天國，那時的這支淮軍芒鞋短衣，衣衫襤褸。上海市民嚴重懷疑這隻軍隊的戰鬥力，駐紮在上海的外國軍隊也嘲笑這支軍隊就是臨時組裝的乞丐軍。大家花錢僱來拯救上海的軍隊竟然是這般模樣，人們都懷疑是不是上了李合肥的當了。

但是不到一年，這支軍隊在鎮壓太平天國的戰鬥中，展現出了十分強悍的戰鬥力。經過一段時間的發展壯大，從19世紀70年代起，李鴻章的淮軍也逐漸取代了曾國藩的湘軍，成為晚清政府維護國內封建統治和對外戰爭的重要武裝力量之一。淮軍為何能如此快速取代曾國藩的湘軍的地位，這與淮軍迅速轉型，快速實行近代化有著很重要的關係。

淮軍創立之初，其營制模式還是仿照曾國藩的湘軍，“由曾國藩為其手訂營伍之法，一切器械之用，薪糧之數，悉仿湘軍章程”。軍隊裡還是刀矛隊和普通火槍（抬槍、小槍）隊的組合，所以淮軍創立之初也並未意識到近代化程度在戰爭中的重要性。

淮軍創立之初的營伍編制

就這軍隊配備，別說和清政府從美國僱來的華爾洋槍隊相比了，甚至都沒有太平軍的裝備齊全，當時的太平軍也配備了相當數量的洋槍洋炮。淮軍來到上海不到半個月，李鴻章也意識到了問題的嚴重性，他立馬電告曾國藩，向他介紹了火器的重要性，他說洋兵“隊伍既整齊，炸炮又準，攻營最為利器。”果然不久，英法聯軍就攻克了嘉定，在這一戰中，英法聯軍的槍炮威力讓李鴻章印象深刻，李鴻章感嘆道：“洋兵數千，槍炮併發，所當輒靡，其落地開花炸彈，真神技也。”

經過了實戰的觀察和體驗，李鴻章認為軍隊轉型勢在必行。首先他就是決定打造洋槍隊，他命令韓國正統帶的兩營官兵組建成洋槍隊，並且還組建了劈山炮隊用來作戰掩護。組建好之後，淮軍的洋槍隊首先接仗，果然大獲全勝。1862年的七寶街、北新涇之戰的勝利更加堅定了李鴻章大力擴建洋槍隊的決心。從1862年9月底，淮軍逐漸將原來編制的抬槍隊、刀矛隊、小槍隊全部改為洋槍隊，而且還增加了劈山炮隊。

淮軍改建後的營伍編制，洋槍隊明顯變多了

改建後的淮軍，火力明顯上了一個臺階。但是看看湘軍的舊制，每個營裝備小槍百餘杆，抬槍24杆，這些槍總共才120多杆，而且這些槍械還都是前膛裝藥，槍的射擊還需要由引線點燃發射，一旦受潮就很難引燃開槍，可以說是十分的落後，缺點不少。但是改建的淮軍每個營就配備了洋槍三四百杆，雖然同樣是前膛裝藥，可是採用銅帽底火，而且射程火力遠比湘軍的抬槍小槍強。除了火槍，每個營的劈山炮隊也由2隊增加到了10隊，因此，改建後的淮軍火力遠遠超過了湘軍。

大力擴建洋槍隊之外，李鴻章也給了洋炮隊正式的編制。在同治二年，淮軍進攻蘇州時，淮軍的銘字營和開字營都有了有組織的炮隊，而且還使用的是12磅中的開花彈。到了1864年6月份，蘇常的戰事基本結束，淮軍的開花炮隊已經發展到了6個營，他們所使用的開花炮彈，最重的已達到了108磅重。

劈山炮

湘軍為什麼會被淮軍取代，可能就是在軍隊的轉型方面，曾國藩沒有他的學生李鴻章做的更徹底和全面。對於湘淮兩軍的不同點，李鴻章是這樣總結的：“曾國藩所立楚軍營制，每營五百人，僅用抬槍小槍一百二十餘杆，臣軍每營則用洋槍四百餘杆，少亦三百餘杆，洋藥銅帽每開一仗則須數萬斤，其開花炮隊，炮具之笨重，藥彈之繁冗，每出一仗，則須數十鉅艦裝運，此非他人所能深知，他省所能接濟者也。”