太平天国の乱の時、１８６０年のアメリカ人ウォードが組織した外国人傭兵部隊「洋槍隊」に始まり、翌１８６１年、中国人兵士を徴募して５千人規模の西洋式軍隊を編制した。１８６２年、太平天国軍の上海攻撃を阻止し、その時清朝政府から「常勝軍」のなが与えられた。ウォードが戦病死した後、イギリスの軍人ゴードンがその指揮を継続し、李鴻章の淮軍と協力して太平天国軍に攻勢をかけ、１８６４年の天京陥落に追いこんだ。太平天国滅亡に大きな役割を果たして同年に解散、その兵員と武器は淮軍に引き渡され、翌年、ゴードンは帰国した。 。

ウォードの常勝軍編成

　ウォードはアメリカ生まれで船乗りとして世界各地を放浪、１８５７年に中国に渡り上海で活動、１８６０年に中国人商人に依頼され外国人傭兵部隊「洋槍隊」を組織した。ウォードが組織したのは、百余名からなる外国人傭兵部隊で、洋式銃と大砲で武装していた。翌１８６１年春、中国人４５００人を徴募し、外国人を指揮官として中国人を兵士とする洋式軍隊に拡充し、１８６２年２月、太平天国の忠王李秀成に率いられた太平軍が上海に迫ると、イギリス・フランスの正規軍、李鴻章の淮軍、清朝正規軍らと並んでその防衛にあたった。当初は太平天国軍が優勢であったが、天王洪秀全が天京（南京）の守備が手薄になることを恐れて李秀成軍を呼び戻したために、上海総攻撃は回避された。ウォードの傭兵部隊には、このときから、常勝軍という名が与えられた。ウォードは１８６２年９月、浙江での太平軍との戦闘中に負傷してそのっま死亡、常勝軍はアメリカ人のバージェビンが指揮引き継いだが、彼は給料の遅配に腹を立て、清の金庫から５万元を奪って逃走し、太平天国に投じてしまうという一幕もあった。

ゴードンの指揮

　１８６２年９月のウォードの死後、イギリスの在華陸軍司令スティーブリーは李鴻章と協議して、常勝軍についての諸規定を定め、ついで現役イギリス人将校ゴードンを常勝軍の最高司令官にすることで合意した。ゴードンは代々軍務を世襲した典型的なイギリス軍人で、厳しい訓練を施し、強力な実戦部隊に仕上げた。常勝軍の費用は清朝政府が負担したが、その指揮権は清朝ではなく、ゴードンが有した。
　外国人を主体とした傭兵部隊としては、常勝軍に倣って寧波で常安軍・定勝軍が編成されている。またフランスは、１８６２年に寧波駐在海軍司令官ブルトンが２５００人規模の中仏混成傭兵部隊として常捷（じょうしょう）軍を編成し、ブルトン戦死後は将校デキュベルが指揮し、左宗棠の楚軍と協力して浙江で太平軍と戦っている。

太平天国の乱の終結

　 清朝政府は、常勝軍に依存することが大きく、１８６３年から６４年にかけて李鴻章の淮軍とともに江浙各地で太平天国軍を破り、残るは首都天京（南京）だけとなると、１８６４年５月、ゴードンは、大勢はすでに決したとして常勝軍を解散させた。結局７月、天京は湘軍の手によって陥落し、ようやく太平天国の争乱は終わりを告げた。
　なおゴードンはイギリス軍将校としてクリミア戦争、アロー戦争にも従軍している。太平天国の騒乱鎮圧後はいったんイギリスに戻った後、アフリカに渡りスーダンでマフディーの反乱の鎮圧にあたったが、１８８５年１月に戦死する。