杨靖宇回到家乡后，首先遇到的问题是如何对待红枪会。
由于河南地处中原，位居要冲，历来为兵家必争之地，封建军阀更在此屡开战端，兵痞遍地，多如牛毛，1926年全省驻军竞达30万人。兵多饷多，封建军阀不管农民死活，采取各种手段肆意搜刮，甚至将田赋丁漕款预征到1932年，捐税比满清时高出6倍。恶战频繁，败者为匪，河南已成“土匪世界”。兵匪一家，官匪合流，土匪的烧杀抢掠和官绅的敲诈勒索，一起加害于广大农民身上。
确山县的四大劣绅以给驻军筹集粮款为名，成立“兵策局”，发捐条、印纸券，巧立名目，横征暴敛。所筹银粮，层层克扣，到士兵名下已所剩无几。于是，士兵强抢掠夺日甚。他们三五成群，横行乡里，抢粮抢钱，奸淫妇女，滥杀无辜。无法生存下去的农民，为了自卫和抗捐，纷纷组建红枪会。一时间，河南各地几乎村村开馆，庄庄设堂，青壮年男子大都参加了红枪会。尽管这一组织的成员、性质都很复杂，有的是地主武装的变种，有的是农民防匪抗捐的自愿组合，也有的是豪绅与土匪勾结打着为民请命旗号的惯匪，但从整体上看，红枪会的成员大多是仇视封建军阀的农民群众，多数是可以争取的力量。
与此同时，国共合作共同领导的抗捐抗税、驱逐军警的农民运动也在秘密展开，河南的很多县区建立了农民协会。杨靖宇回到确山后，就和张家铎、张耀昶等日夜奔忙，串连鼓动，与农民谈话，召开秘密会议，着手建立农民协会。根据党对红枪会的政策和策略，杨靖宇和张耀昶一道对农民出身、反对军阀统治意识较强的红枪会首领徐耀才、张广汉等开展工作。经过耐心的宣传启发，徐、张的思想进步很快，他们领导的红枪会成为农民运动的基本力量。他们表示拥护革命，愿意听从革命党指挥。据当时在中共河南省委任技术书记的林壮志回忆：争取了张广汉的武装力量，各类小规模的红枪会组织也纷纷向我们靠拢。至年底，党基本掌握了确山全县的农民武装，农村大部分也在我们控制之下。
1926年11月，为了加强对豫南地区农运工作的领导，中共河南省委决定成立驻马店特别支部，张家铎为书记。在驻马店特别支部的直接领导下，确山县的农民运动发展得更加迅猛。1927年2月15日（农历正月十四），在洪沟庙镇的玉皇庙召开了确山县农民协会成立大会，杨靖宇在大会上讲话，并被推举为执行委员会委员长。就在这天，直系第八军士兵到县城东北的董庄抢粮并毒打农民，被红枪会扣留。杨靖宇等农会领导获悉，号召农民组织自卫军，齐集城北，声讨第八军，誓与死战。
2月15日至17日，各路农民自卫军、红枪会聚集城下，群情激愤。县长王少渠吓得面如土色，承认军士有“滋扰情事”，一方面泣求驻军暂缓用兵，一方面派人与农会领导交涉，请乡绅劝红枪会首领忍退。杨靖宁等农会领导对前来交涉的人提出，驻军和官府今后不再任意征收苛捐杂税、军队给养，方可考虑撤退。迫于已经组织起来的农民的强大威力，王少渠被迫接受了农会的要求，一场党领导的农民斗争胜利了。对这场斗争，天津《大公报》、北京《晨报》都作了报道，字里行间洋溢着对农民的同情、对农民运动的赞美。
1927年3月15日，在武昌雄楚楼中央农民运动讲习所，召开了河南武装农民代表大会，毛泽东到会作了湖南农民运动状况的报告。这次大会，尤其是毛泽东的报告，极大地鼓舞了与会代表，有力地推动了河南省的农民运动，确山县的衣民运动也得到迅速发展。
3月中旬，在确山县城北大街赵凯文家，杨靖宇与张家铎、张耀昶等召开会议，根据举行确山农民暴动条件已经成熟的情况和中共驻马店特支的决定，确定在农历三月初三（公历4月4日）“亮牌”（即武装示威），伺机暴动，以配合北伐军向河南推进。
4月4日清晨，杨靖宇和张家铎、张耀昶等来到县城东关大操场，升起鲜艳的农会会旗，把两张八仙桌并在一起当主席台，迎接来自全县的农民。上午10时，农民协会和红枪会的成员高举红旗，高呼口号，手持大刀、长矛，一路敲锣打鼓，从四面八方陆续进入会场。至中午，约有2万人入场，县长王少渠也被迫到会。中午时分，“亮牌”大会开始，人们高呼“打倒帝国主义”、“打倒军阀”、“打倒贪官污吏”、“打倒土豪劣绅”、“反对苛捐杂税”等口号，杨靖宇等代表全县农民讲话，要求县长王少渠交出四大劣绅，清算他们的罪行；取消苛捐杂税，不再派车拉夫；清查县政府帐目，释放因抗捐被关押的农民。王少渠满口应承，大会当场放他回城。
第二天，农会从早晨等到傍晚，王少渠一直未交出四大劣绅。农会派出代表交涉，王少渠避而不见，故意委托一个军人出面应付。经查，王少渠自会场回城后，不仅躲进城隍庙，放走四大劣绅，而且在全城布防，派众多荷枪实弹的官兵把守城头，用沙袋堵住城门。王少渠的所作所为，激怒了农民群众，人们纷纷加人围城行列，附近各县的红枪会也前来支援，围城人数由原来的2万人增至四五万人。京汉铁路上行驶的火车听从暴动农民指挥，把确山作为临时终点站，免费运送支前农民及物资。确山城外的村村户户住满了参加暴动的外地农民，《国民革命歌》响彻原野，烧水做饭的火焰照红夜空，老人、妇女和孩子们自愿为前线农民送水送饭，人民革命的热潮在确山激荡。
4月6日，信阳道尹于庭鉴受第八军某旅旅长的委托，到确山调停。杨靖宇和张家铎、李则青等代表暴动农民与于庭鉴谈判时，城头的官军士兵突然开枪，当场打死两名暴动农民。广大农民再也抑制不住心头的怒火，决心攻下确山县城，为死难弟兄报仇。谈判当即停止，中共驻马店特支迅速作出决定，抓住有利时机，立即攻城，由杨靖宇和张家铎、张耀昶三人组成攻城指挥部。
4月6日夜，攻城战斗开始了。杨靖宇指挥四五万暴动农民，向反动势力盘踞的确山县城发起了猛烈进攻。农民自制的“九节雷”土炮和步枪一齐向城上开火，手举着大刀、长矛的农民潮水般地冲向敌阵。霎时间，火光冲天，杀声震地，杨靖宇冒着枪林弹雨，冲锋在前，参战衣民争先恐后。城东南角的敌军炮楼被土炮轰塌，顶着湿棉被的农民冲到西城门下，堆起干柴，燃起大火。木制城门被烧毁了，但里边已用封土堵死，一时无法攻入。
早已魂飞魄散的敌人，于4月8日夜，挖开西门封土，仓皇逃窜。暴动农民乘势截杀逃敌，攻入城内，战斗中毙敌200余人，残敌大部分被缴械，王少渠被活捉。4月9日黎明，确山县城头升起鲜艳的农民协会会旗，人们欢声雷动，载歌载舞，庆祝确山农民暴动的胜利。
确山暴动胜利后，首先从参加暴动的农民中选拔200人，组成农民自卫军，保卫即将建立的革命政权。在中共驻马店特支领导下，杨靖宇、张家铎和党派来从事地方工作的李鸣歧等着手筹建革命政权。4月24日，确山县革命政权正式建立。这个政权的名称采纳了在武汉国民党中央工作的共产党员于树德的建议，称“确山县临时治安委员会”，由杨靖宇等7人组成。
确山县临时治安委员会成立后，宣布取消一切苛捐杂税，免除农民积欠的所有田赋，没收四大劣绅和贪官污吏的财产。并严惩了几个民愤极大的恶棍；释放了因交不起租税或抗租抗税被关押在监狱里的农民；受理案件，民撑腰，一文不收，秉公而断；印发流通券，促进市场复苏；维护社会治安，坚决清除匪祸。所有这些都代表了人民群众的利益和要求，得到人民群众的热烈欢迎。
农民暴动的胜利和革命政权的建立，使确山的社会面貌焕然一新。当武汉国民革命军北伐部队经过确山时，县临时治安委员会召开了规模宏大的欢迎会。县城内外，红旗飞扬，欢声笑语，一派节日的气氛。杨靖宇等临时治安委员会成员组织人民群众积极支援北伐军，救护伤员，传递情报，送饭送水，充当向导，侦察敌情，扰乱敌人后方。临颖大战之际，为解前方运输紧张之急，杨靖宇等临时治安委员会成员全部下乡找车，亲自把各种物资送往前线。每当胜利的喜讯传来，临时治安委员会就召开庆祝大会，以鼓舞士气，振奋民心。
确山暴动的胜利，引起强烈的反响。武汉国民政府为祝贺这一胜利，向确山农民协会赠送一面锦旗，上面写着四个大字：“革命先锋”。国民党中央农民部赴河南慰劳代表团代表罗绍徽发表在汉口《民国日报》的一份报告中说：“农工组织政府，确山首先实现，在革命史上是很光荣的一件事，在农工运动上也很有价值的啊！”
杨靖宇出色地领导了这场斗争，表现出卓越的才能。据参与领导确山暴动的李则青回忆：杨靖宇“沉着、敏捷、坚毅，平时不大爱说话，但在开会演讲时讲得生动有趣，深入浅出，富有感染力，很受群众欢迎。在县农协、县政府、县党部，他工作热情积极，表现出非凡的组织和领导才能。”1927年6月，中共驻马店特支根据杨靖宇的申请和表现，同意接纳他为中国共产党党员。杨靖宇庄严宣誓：为壮丽的共产主义事业贡献出自己的一切。
来源：吉林省委党史研究室
初审：段周宏
复审：尹是罡
终审：闫 振