「洋槍隊」號稱常勝軍，李鴻章為何要想辦法裁撤它
1860年5月15日，李秀成率軍東征，一路所向披靡，太平軍連克常州、無錫、蘇州、崑山、太倉、嘉定、青浦、松江，兵鋒直逼上海。當時，清政府在江蘇的勢力極其空虛，面對李秀成大軍壓境一籌莫展。
在這種情況下，上海地方勢力想到了洋人。蘇松糧儲道楊坊和蘇松太道吳煦請求駐上海的英、法軍隊幫助防守上海，但當時英法兩國與清政府還處於戰爭時期，正打算北上進攻大沽口，不願與太平軍發生衝突。無奈之下，楊坊和吳煦找到了美國浪人華爾，僱傭其組織了「洋槍隊」。
華爾的經歷非常富有傳奇色彩，他早年學過軍事，搶過郵車，販過「豬仔」，在墨西哥打過仗，還加入法軍參加過克里米亞戰爭，之後來到東方冒險，在一艘中國船上當大副。從個人素質上講，華爾闖過五洲四洋，眼界開闊，膽大心細，極富冒險精神和開拓精神，而且懂西方近代軍事，擁有豐富的作戰經驗，從後來的表現看，他確實是一個優秀的僱傭軍首領。
最初的洋槍隊規模只有一兩百人，由歐美人為軍官，東南亞人（以菲律賓水手主）為士兵，之後，隨著洋槍隊屢立戰功，其規模也不斷擴大，到1862年8月時，洋槍隊領餉官兵已達6500餘人，加上輔助人員，全軍超過12000人（此時士兵以華人為主）。
洋槍隊是一支完全近代化的僱傭軍。從編製看，它有1個來複槍團，5個步兵團，若干狙擊兵連，1支內河艦隊，1支大型運輸船隊，1支工兵隊，2個兵工廠，1個軍醫院；從裝備上看，大部分士兵使用來複槍，發射當時世界上最先進的尖圓子彈，還有各種火炮37門，每門炮常備炮彈500發。此外，洋槍隊還裝備有作戰用的機動設備：野戰橋、野戰炮架、炮艦、鐵甲汽輪等。從訓練看，洋槍隊完全採用西式訓練法（純用夷法），連發號施令都全部採用英語。從架構看，也是從洋槍隊建立之初便確定下來，即:以西洋軍士作為軍事主官，招募"華勇"作為士兵;配發當時先進的火器，並使用西方先進的訓練方法操練部隊。
1860年7~9月，洋槍隊先後在中國松江、青浦兩地被太平軍李秀成部打得大敗，損失慘重。其後，清政府為洋槍隊再次擴大投資，購買新式槍炮，不斷擴大編製，兵員達1200餘名，企圖與太平軍一決雌雄。1862年2月初，太平軍李秀成部第2次進攻上海，洋槍隊以其優勢兵力在松江一帶打了幾個勝仗，清政府便將洋槍隊首領華爾升為三品官，並將洋槍隊更名常勝軍，得到了清政府正式承認。
華爾在對慈溪的攻擊時陣亡，他的後繼者不被清朝皇帝所喜歡。當時的江蘇巡撫李鴻章，要求斯特維利另指派英國軍官來指揮洋槍隊。斯特維利選擇了戈登。1863年3月，戈登在松江接任了指揮，他仿照英軍建制，實行薪金制。4~7月，與淮軍聯合西進，陷太倉、崑山、吳江，並將總部遷至崑山，被清政府賞總兵銜。8月，常勝軍與淮軍攻蘇州，數月無功，傷亡慘重。戈登通過姦細了解到守城的太平軍將領納王郜永寬等"四王"、"四大天將"與主帥譚紹光一直不和。知道納王郜永寬有投降之意，便主張誘降納王，兵不血刃攻克蘇州。戈登的建議為李鴻章採納。經過一番秘密聯絡，郜永寬在蘇州城外親自與戈登、程學啟商議降約。
戈登聽到李鴻章殺降的消息後提著洋槍要找李鴻章算帳。由於找不到李鴻章，戈登忿忿然留下一份最後通牒，要求李鴻章下台。然後，他就率"常勝軍"返回崑山，同時給英國駐華公使布魯斯寫信，要求英國政府干預，迫使李鴻章下台。英國駐華陸軍司令伯郎也從上海趕到崑山，與戈登商定"常勝軍"由其節制，不再受李鴻章及中國政府調遣，從中方奪回了"常勝軍"的控制權。上海的外國領事館官員代表列強及所有外國僑民也簽署了一項嚴厲譴責李鴻章的決議，警告說此事很可能使列強不會再幫助清政府，並可能撤回幫清軍打仗的洋兵洋將。
李鴻章沒有想到，他的"殺降"居然會引起外國人如此強烈的反應，甚至有可能破壞難得的"中外和好"局面。慌了手腳的李鴻章於是一方面急忙向對中國政局影響頗深的英國人赫德和馬求援，請他們代為調解。
"涉外"成功不等於"外交"成功。另一方面，李鴻章向朝廷辯解說因太平軍人多，自己不得不殺降，同時力陳淮軍已掌握西方槍炮技術，戰勝太平軍不再需要"常勝軍"。
李鴻章的這兩手果然奏效。朝廷下旨不僅明確支持李鴻章並責備戈登"不明事理"，"意殊頗測"，"惟有據正理駁斥，以折其心"。與此同時，經過赫德等人的調解，英方制止了戈登的過激行為。戈登僅要求李鴻章發一文告，說明此事與己無關。對此要求李鴻章立即答應，雙方都有了"下台階"，一場大風波總算平息，但此事更堅定了李鴻章裁撤"常勝軍"的想法。
1864年5月，陷常州後，清軍在蘇南的勝利已成定局，戈登主動要求遣散"常勝軍"。早就想裁撤"常勝軍"的李鴻章立即高興地同意。1864年5月31日，常勝軍在崑山解散，全體軍官辭去了在清軍中的職務，其部分精銳部隊和大部分武器裝備被編入淮軍，進一步提高了淮軍的實力。從對"常勝軍"的利用、處置，可以看到李鴻章"請神"、"送神"的現實和老辣。
解散後，李鴻章劃銀1500兩在上海建立了常勝軍紀念碑。
