1929年3月，鄂西特委在江陵沙岗召开第一次扩大会议，全面贯彻党的“六大”决议。经过两昼夜认真讨论，通过了关于加强党的建设、发动工人运动、发展群众组织、克服“左”倾盲动和命令主义错误、防止“和平发展”新错误倾向、发展游击战争等决议，确定鄂西党的工作重心为发展游击战争、普遍建立苏维埃政权、实行土地革命和创建根据地。划全区为三个游击区，其中江陵、公安、石首、沔阳、监利、潜江、南县、华容、安乡为第一游击区。

  3月下旬，“蒋桂战争”爆发，驻防鄂中各县的桂系十八军外调与蒋军作战，鄂西除敌马文德旅1个团驻施鹤地区、独立第五师刘文和部驻宜昌外，反动武装均为民团。鄂西特委乘机将江陵、石首、监利、沔阳的游击队合编为洪湖游击大队（亦称鄂西游击大队）。洪湖游击大队下辖2个中队，江陵、石首游击队编为第一中队，段玉林任队长，彭之玉任党代表，以江陵沙岗为中心，开展游击战争；监利、沔阳游击队编为第二中队，段德昌任队长，王尚武任副队长，彭国材任党代表，以洪湖为中心，在洪湖沿岸的狮子河、吴家新场、瞿家湾、刘家场、柳关、剅口一带活动。

  洪湖游击大队组建后，在江陵、石首、监利三县范围内发动游击战争，17天打了21仗，虽然损失巨大，但战果显著，在农村建立了革命政权，没收土豪劣绅的田地分给了佃农，受到群众热烈拥护，声威空前高涨。

  其后，段玉林、彭之玉带领一中队向石首出击，周逸群、段德昌率领二中队挺进洪湖。在赤卫队配合下，周逸群、段德昌利用河湖港汊交错、芦苇丛生的有利地形，不断向团防和国民党杂牌军进攻，将敌人逼到几个较大的据点内。5月初，二中队从剅口出发，兵分两路，凭借东北风在洪湖扬帆破浪，直捣监利白螺矶。一夜之间，行程近百里，攻打柘木桥、姜家堤、夏家桥、何家桥、聂家河5处常练队，消灭白螺矶附近数股团防武装，缴枪50多支，处死螺山天育墩“铲共团”首领李生灿。游击队威震百里洪湖，二中队扩编为二、四两个中队。

  5月中旬，张泽厚出任“沔阳县清乡委员会”委员，在峰口镇组建“沔南清乡保卫团”。赵文允与张应南（受党指示打入敌内部，任保卫团参谋长）取得联系，准备做策反工作。5月13日，赵文允赴剅口请示周逸群和段德昌，得到张应南暂时不要暴露，也不要起义的指示。5月15日深夜，二、四中队兵分两路出击。段德昌率四中队与张应南里应外合，进攻沔阳重镇峰口。段德昌令少数队员潜入内荆河与中府河，拆除敌人铺设的铁蒺藜和梅花桩，用木排和船只把全体队员渡过去，封锁峰口镇街巷出入口，再令突击队用长梯、杉条和楠竹为器材，跨越木栅栏和铁丝网进入镇内。镇内镇外同时发起猛烈冲锋，张泽厚慌忙带着张应南逃往新堤，“沔南清乡保卫团”被包围在营房里，全部缴械投降。四中队缴获长短枪200多支，子弹、辎重无数。彭国材带领二中队在300多名赤卫队员配合下，一举攻克监利县毛家口，全歼敌驻军2个连，缴枪100多支。随即，进攻驻防吴家新场的小沙口保卫团二中队，歼敌2个分队。期间，卢先瑚带领游击队出万全垸，攻占简家口，与万献武领导的游击队会合，进一步壮大了沔东南区的武装力量。不久，卢先瑚、赵文允、罗天宇、贺闯等率领的几支游击队先后攻克小沙口、戴家场、珂里湾、老湾和柳关等地，消灭了不少团防武装，镇压“铲共团”首领多人，缴获一批枪支弹药，增强了游击队的战斗实力。

  随着“蒋桂战争”临近结束，国民党在鄂西驻防的正规军比以往增加数倍，“铲共团”等反动武装也在扩大，“每县最少百余人枪，最多者达千余人枪”。6月中旬，江陵、监利两县团防趁游击队在洪湖活动，分两路进攻江陵根据地中心沙岗，周逸群集中兵力与敌军激战于沙岗附近的青羊宫，虽然取得胜利，但是牺牲多人，实力大受影响。为了培训军事骨干，补充游击队各级指挥力量，周逸群在洪湖设立教导队，并将在洪湖活动的游击队改编为第一大队，下设一、二、三中队（相当于连）；在江陵、石首活动的游击队改编为第二大队，下设四、五中队，以迅速恢复游击队的战斗力。

  张应南跟随张泽厚到新堤后，打入湖北省江防大队，担任参谋，秘密介绍陈光明加入共产党。6月26日，陈光明率江防大队二中队的2个分队70余人在小港起义，乘船进入洪湖，于27日到达三屋墩，改编为洪湖游击队第一大队第四中队。

  8月上旬，周逸群和鄂西特委副书记万涛将洪湖游击队第一大队、第二大队和卢先瑚游击队集结于洪湖西岸的三屋墩，组建洪湖游击总队（亦称鄂西游击总队），周逸群任总队队长兼党代表，段德昌任参谋长。下辖3个大队：原在监利、沔阳活动的游击队编为第一大队，大队长王尚武，党代表王鹤；原在江陵、石首活动的游击队编为第二大队，大队长段玉林；沔阳县新扩充的游击队编为第三大队，大队长卢先瑚，党代表彭国材。全总队1000多人，500多支枪。

  洪湖游击总队的建立，极大地鼓舞了洪湖人民的斗志。