1917年俄国二月革命后，布琼尼被全连一致选为连士兵委员会主席，在全团大会上被选为团士兵委员会主席，接着又被选为师士兵委员会主席。伟大的十月革命爆发后，高加索骑兵师士兵委员会作出了该师复员解散的决定，布琼尼于当年11月回到了家乡。不久，他即同其他战友一起在当地建立起了苏维埃政权，随后，布琼尼以他对巩固新生苏维埃政权的高度责任感和对军旅生活的酷爱，在家乡组建了骑兵游击队。这支游击队在革命的烈火中锻炼成长，发展壮大。经布琼尼的努力经营，部队逐渐扩大为骑兵团、旅、师，后来又继续扩大编制成为骑兵军和集团军。1918年之后，在保卫察里津的作战中，布琼尼指挥一个骑兵旅，把敌人打得落花流水，表现出了一个杰出的骑兵指挥员的才干，因而荣膺红旗勋章。
1919年夏，邓尼金的白卫军向苏维埃共和国发动疯狂的进攻，红军被迫向腹地退却，南方战线自然成了主要战场。这时，布琼尼指挥新建的骑兵军在察里津以北粉碎了弗兰格尔白卫军的主力，击溃了苏图洛夫的部队。随后，又巧妙地实施机动，给逃窜到红军南方方面军后方的马蒙托夫和什库罗指挥的哥萨克骑兵师以粉碎性的打击，占领了重镇沃罗涅日，从而封闭了莫斯科战略方向上红军阵地中宽达100公里的缺口。为表彰布琼尼在这次作战中的功绩，全俄中央执行委员会，再次授予他红旗勋章和革命荣誉武器。不久，布琼尼便出任苏军第1骑兵集团军司令，成为苏联国内战争时期著名的将领之一。