中国共産党の初期の軍事組織は、在地の農民の武装集団である「土匪」とかわることはなかったが、次第に軍事組織としてマルクス＝レーニン主義を学習し、きびしい規律で農村の解放を進めたので、次第に農民の支持を受け、その支配地を急速に拡大した。
　１９２１年に結成されたコミンテルン中国支部としての中国共産党は、第一次国共合作期にはコミンテルンの方針に従い、主として都市の労働者のストライキなどを指導しながら武漢、南京、上海などの大都市を基盤として活動していたが、１９２７年の蔣介石の上海クーデタ、さらに武漢政府での共産党排除によって国共分裂となって大都市で激しい弾圧を受けたことから、次第に農村を基盤とした根拠地（ソヴィエト）作りに転換していく。その過程で、農民を基盤とする共産党の軍事組織が作られていった。

共産党の武装蜂起

　共産党が独自の武装闘争を開始したのは、国共合作が瓦解した直後の１９２７年８月の南昌での蜂起だった。１９２７年８月１日、南昌でのこの蜂起は国民革命軍の名で起こされており、共産党員の葉挺・賀龍・朱徳らが部隊を動かしたものだった。狙いは国民革命軍全体の決起を促すことにあったが国民党側は動かず、蜂起は失敗して破れ、部隊は広東に逃れたが、ほぼ壊滅してしまった。しかし、この蜂起は共産党最初の武装蜂起として記憶され、８月１日は人民解放軍（現在の中国軍）の健軍記念日となっている。

紅軍の組織化

　１９２７年１０月、共産党は江西省と湖南省の境界にある山岳地帯井崗山に新たな根拠地を設けた。その指導にあたったのが、早くから農村を拠点に革命運動を指導していた毛沢東であった。毛沢東は１９２８年、共産党の武装組織として軍規律を強化することが必要と考え、三大規律・六項注意を示し、厳格な規律の下、農民の支持を受けた軍をめざした。
　この間、井崗山以外の共産党の農村拠点でも武装蜂起が始まり、２７年末の広州蜂起で初めて紅軍の名称が現れた。１９２８年４月には南昌蜂起の残兵を率いて湖南地方を転戦していた朱徳の率いる共産党軍が井崗山に合流、「中国工農紅軍」の成立を宣言した。総兵力１万の紅軍は軍長は朱徳、政治委員が毛沢東で、「第四軍」（北伐期の国民革命軍の中で勇名の高かった部隊名を踏襲した）とも言われ、あるいは「朱毛軍」ともいわれた。共産党の各地の武装組織は内訌を重ねながら次第に紅軍に統一され、１９３０年３月には１５の根拠地に６万の紅軍を数えるまでになった。
紅軍の組織　紅軍はソ連の赤軍の組織原則を手本としており、共産党（政治）の方針に従う軍であるので、軍の各級組織には党代表が政治委員として加わっており、政治委員は軍事指揮官（司令官）よりも上位の権限を持つとされていた。
紅軍の戦術と戦略　またその戦術は「敵が進めば我は引き、敵が止まれば攪乱し、敵が疲れれば討ち、敵が退けば我は進む」という遊撃戦術と、「革命農村によって都市を包囲する」という戦略を掲げた。これらは「政権は鉄砲から生まれる」という言葉とともに、毛沢東の革命戦略として知られた。

国民政府軍の攻勢

　共産党が農村で拠点を設けていったのに対し、１９２８年６月、北伐を終え、北京の軍閥を排除して中国統一に成功した国民政府軍の蔣介石は、なおも残る軍閥勢力との戦い（平原大戦）を繰り広げていたが、その間を縫って、中国共産党軍（紅軍）は各地で都市を攻撃するようになり、１９３０年７月末には長沙を占領し、世界を驚かせた。蔣介石は本格的な中国共産党の殲滅が必要と考え、全面的な攻勢を開始した。
　１９３１年に満州事変が勃発、関東軍が満州を占領し、さらに満州国の分離独立、日本軍の華北進出という事態が続いたが、蔣介石は共産党討伐を最優先（安内攘外）して日本軍との戦いを回避し、共産党攻撃を続けた。共産党は、１９３１年１１月７日、瑞金 に 中華ソヴィエト共和国臨時政府を樹立、支配地は分散していたが、一つの国家権力をつくっ対抗する態勢をとった。
　蔣介石の国民政府軍による共産党根拠地に対する包囲攻撃はさらに強まり、３２年７月～３３年３月には６０万の大軍を投入して紅軍を圧迫した。日本軍の熱河侵攻で一時中断された国民政府軍の攻撃は３３年１０月に再開され、瑞金を大軍で包囲し、経済封鎖を行った。長期にわたる攻撃によってついに紅軍は敗北、１９３４年１０月、瑞金を放棄し、新たな根拠地を目指す大西遷（長征）を開始した。１９３５年１０月に陝西省の呉起鎮に到着して長征を終え、さらに１９３７年からは陝西省延安を新たな根拠地として国民政府軍およびそれに従った満州の張学良の率いる東北軍と激しく戦った。

日中戦争と第２次国共合作

　その間、国民政府軍と紅軍は一致して日本軍と戦うべきであるという国民の声が強まり、その声を背景にして張学良が蔣介石を軟禁して一致抗日を迫った西安事件が起こった。それを機に両軍は停戦に応じ、１９３７年に日中戦争が始まったことで第二次国共合作が成立した。この抗日民族統一戦線成立によって紅軍は形の上では国民政府軍蔣介石の指揮下に入り、八路軍および新四軍といわれるようになり、日本軍にゲリラ戦術によって激しい抵抗を開始した。

三大規律・六項注意

　１９２８年１月、毛沢東が井崗山根拠地で紅軍兵士に与えた軍の規則は、三大規律・六項注意として知られている。
　三大規律（紀律）とは、

1. 行動は必ず指揮に従うこと
2. 土豪から取り上げた金は公のものにすること
3. 農民からはサツマイモ一本（後に針一本、糸一筋となる）取らないこと。

　六項注意とは、

1. 話しは穏やかに
2. 売買は公平に
3. 借りたものは返し壊したものは弁償する
4. 寝るとき使った戸板は必ず元に戻し、敷きわらは束ねておくこと
5. やたらなところで大小便をしない
6. 捕虜の財布に手をつけない

をいう。
　これはさらに整理され、八項注意としてまとめられ、中国共産党軍の軍規となった。このような規律を持つ軍隊は、従来の軍閥の軍隊、あるいは国民革命軍と全く違って農民から徴発して苦しめるようなことはなかったので、その支持を受け、勢力を拡大することができた。
　この日中戦争で協力してた戦った国民政府軍（国民革命軍）と中国共産党軍（紅軍）両軍であったが、日本軍に勝利した後、国共内戦で再び戦うこととなった。その段階で紅軍は人民解放軍と改称し、現在に至っている。