1927年8月至9月，崇阳县农民自卫军随罗荣桓上了井冈山，崇阳西山赤卫大队在鄂南秋暴中被打散，中共崇阳县组织遭到严重破坏，县委领导人惨遭杀害，共产党人和农会干部转入地下，崇阳境内的工农革命力量损失殆尽。
在国民党反动派的血腥统治下，中国共产党人找到了武装夺取政权的道路。在付出了血的代价后，懂得了创建人民军队和武装夺取政权的真理。在加强对苏区和工农革命武装建设的同时，更加重视地方革命武装的建设，并统一了地方各级革命武装的编制和称谓，即：县、区称游击队，乡、村称赤卫队。1928年下半年，随着红五军在湘鄂赣边界的盘旋式游击，鄂东南各县开始出现工农武装割据的局面。1929年2月至1932年12月，在刚恢复的中共崇阳县特支和中共崇阳县委的领导下，崇阳县先后建立起两支地方游击队和4支赤卫队，为创建、发展和保卫红色苏区发挥了重要作用。
1929年2月，中共崇阳县特支组建了一支30余人枪的崇阳县游击队。8月，中共崇阳县委恢复后，收集原西山赤卫大队被打散的部分人员编入县游击队，共60余人枪，由县委委员赵炳煜和刘道炳分别任队长、政委。当年冬，赵炳煜牺牲，李国正接任队长。
1930年9月，为了开辟崇蒲边界苏区，中共鄂南（蒲圻）中心县委从崇阳游击队和蒲圻东南区游击队中抽调20余人枪，组建成崇蒲游击队，由李世绿、李世钱分任队长和指导员。其主要任务是打击崇蒲边界地区的保安团武装，发动群众建立革命政权。
1930年6月，在三山仙人坪宋家成立金紫区游击队，30余人枪，队长周面洋。1931年7月，在应家畈成立方山区游击队，20余人枪，金应学、周本申先后任队长。1931年9月，建立梓木港区游击队，辖梓木、黄茆、河山等乡赤卫队，由区委书记刘定保任队长。1932年3月，在塔坳汪家建立塔坳区游击队，20余人枪，队长但茂功，政委万家模。
同时，在一些党组织力量较强的山区乡村还建立农民赤卫队，其中高枧小山村赤卫队的建立及与反动民团的斗争堪称地方革命武装斗争的杰出代表。
高枧乡小山村（又名小山界，今中山村）与江西省修水县毗邻，是江西和湖北的必经要道。小山村四面环山，土产丰富，但人民生活过得很苦。全村共80余户，近400人口，地主、富农各1户，中农8户，其余都是贫雇农。有田120亩，均被地富占有。贫雇农租种地主土地维持生计，因田租太重，大多债务重重。尤其是高枧民团由反动派廖东林把持，经常以派捐课税为由到小山村烧杀抢，逼得农民群众走投无路。
1929年初，小山村的贫苦农民经中共修水县执委工作队员丁德珍等人的宣传发动，成立了一支由30余人组成的农民赤卫队，徐道安任队长。在丁德珍、徐道安的领导下，赤卫队打土豪、分财产，为保卫农民的权益同反动派展开了殊死斗争，处罚了寒泉的豪绅廖神照，将财产分给贫苦农民，极大地调动了人民群众对敌斗争的积极性。小山界一度成为崇阳县较早的革命根据地之一。
1930年，国民党崇阳县政府为了消灭小山界这支共产党所领导的革命武装，派以廖东林、廖团生为首的“铲共”团长驻高枧、大源一带，对小山界等地的农民赤卫队进行“清剿”。当年7月底，高枧、大源、通城、修水等几个“铲共”团在联防团团总王道璋的统领下，从东南西北四面同时进攻小山界革命根据地，包围了农民赤卫队。战斗中，赤卫队充分利用小山界的山地条件，采取灵活机动的战术，与敌人周旋，一次又一次地打败了敌人的进攻。有一次，从早晨持续到下午，战斗7个多小时，共打死打伤敌人30多名。赤卫队也伤亡惨重，34人的队伍有18人壮烈牺牲。
赤卫队撤退后，王道璋下令开枪射击逃离的群众，不慎手枪走火，打伤了自己的鼻子。他恼羞成怒，下令杀人、放火，大肆抢掠。一时间，山上山下，屋里屋外，浓烟滚滚，烈火呼啸，枪声、喊声、哭声、楠竹爆炸声、房屋倒塌声，此起彼伏，惊天动地。一个好端端的小山界革命山村，陡然间尸横遍野、血流成河，惨不忍睹。全村48个屋堂、近万亩山林，顷刻间毁于一炬；有208人或被刀枪送命，或被大火烧死，其中有8户绝了香火。如徐家屋48人就死去29人。徐道安9口之家，被杀死6人。尤为惨无人道的是，徐道安的母亲刘雪英被抓去后，敌人把她的衣服脱得精光，用皮鞭猛力抽打，全身皮开肉绽，多次晕死过去。当敌人问：“还支不支持儿子革命？”她正气凛然，坚定地回答：“只要还有一口气，我就要支持儿子革命到底！”直至活活被打死。参加赤卫队的陈幼林在山上被“铲共”团捉住，敌人把刀捅进他的肚子里，又把肠子拉出来，用草绳把肠子绑起。陈幼林被当场折磨致死。还有其兄徐木林被国民党捉去，将他的耳朵割下来，强行要他本人吃掉，然后押到高枧被剁成4块。死者家属去领尸埋葬时，国民党还要收过刀税；死者若是革命队伍里的干部，不准收尸，当众用刀砍烂喂狗。
尽管国民党反动派以极其残酷的手段血腥镇压革命群众，妄图消灭共产党和共产党所领导的这支革命武装，却适得其反。他们的暴行，激起人民群众更大的仇恨，人民群众的斗志更加高昂。他们越镇压，人民越反抗，革命武装就越发展、越壮大、越坚强。“铲共”团血洗小山界的第三天，赤卫队在小山界为死难的烈士召开了追悼会，决定重建赤卫队，继续高举革命旗帜，同仇敌忾，誓与国民党反动派及其土豪劣绅斗争到底！