苏德战争爆发之前的苏军步兵军实际上也是诸兵种合成兵团。其编制内包括：2～3个步兵师、2个军属炮兵团（其中1个团装备36门火炮，包括107毫米加农炮、152毫米榴弹炮和加农榴弹炮；另1个团装备30门火炮，只包括152毫米榴弹炮和加农榴弹炮）、1个独立高射炮兵营（装备18门76毫米高射炮）、1个工兵营、1个通信营和若干其他部队。编有3个步兵师的步兵军总兵力为5万多人，配备516门火炮（其中包括162门反坦克炮和48门高射炮）和450门迫击炮。经过战争第一阶段的残酷洗礼后，由于受过专业训练的指挥、参谋人员大量损失以及通信器材的缺乏，步兵军这一级编制被撤销，直到1942年底以前也未恢复。
步兵师是陆军基本的诸兵种合成兵团，也是衡量一支军队规模大小的基本计量单位（在对比某些军队的规模时，往往是对比其师的数量）。战前苏军步兵师规模很大，1941年初的苏军步兵师由3个步兵团、2个炮兵团、1个反坦克炮兵营、1个高射炮兵营、1个侦察营、1个通信营以及后勤分队组成。1941年4月，苏军批准了步兵师的新编制：编有3个步兵团、2个炮兵团、1个反坦克炮兵营、1个高射炮兵营和侦察营、通信营、工兵营、汽车运输营、卫生医药营各1个。规定每个步兵师应有14483人，装备10420支步枪、1204支冲锋枪、558挺机枪、210门火炮和迫击炮（不含50毫米迫击炮）、16辆轻型坦克、13辆装甲车、558辆汽车和3000多匹军马。但是，这一编制还没有来得及全部实行，战争就爆发了。在战争爆发时，边境军区大部分步兵师的人数只有新编制的60～85（8500～12000人）。战争初期人员和装备的惨重损失，使得新编制还未完全实行就被废弃了。
941年7月，苏军颁发了步兵战时的第一个新编制。该编制在1941年4月的编制的基础上取消了1个装备榴弹炮的炮兵团（剩下的1个炮兵团装备24门大炮），装备45毫米反坦克炮的反坦克炮兵营也被取消，勤务保障分队也进行了缩减。步兵团内的120毫米迫击炮连改为1个排装备2门炮（二战苏军地面炮兵一般都是4门制炮兵连，即每连2个排，每排2门炮），团属76毫米炮兵连也减少了1个排。步兵营取消45毫米炮排，82毫米迫击炮连改为1个排（2门炮）。步兵连的轻机枪也被减少一半，重机枪排撤销。由于前线战事紧张和各师武器装备和人员缺额不同，这一次改编持续了数月之久。改编后的步兵师人数减少25，火炮和迫击炮减少52，汽车减少了64。新编制步兵师由于规模缩小机动性有了提高，为其摆脱德军合围提供了有利条件，但主要问题是火力明显变弱。1个战前步兵师每分钟可发射子弹297460发，1个步兵营每分钟可发射21600发子弹，而按1941年7月编制编成的步兵师发射子弹数只能分别达到140470发和11490发，均下降一半左右。新编制步兵师迫击炮1次齐射弹重减少234公斤（占战前步兵师发射弹重的53），炮兵1次齐射弹重减少1040公斤（占战前步兵师发射弹重的74）。由于武器数量的减少和火力的减弱，对苏军步兵师的作战造成了很大影响。
1941年10月，步兵师的编制又发生了一些变化。首先，由于从步兵团到步兵连都编有少量迫击炮分队，使得在防御战中兵力分散导致火力无法集中使用。因此，苏军决定取消步兵营、连中的迫击炮，将它们集中到步兵团编成1个迫击炮营。同时，120毫米迫击炮从步兵团撤销，用以编成步兵师属120毫米迫击炮营。其次，为了加强步兵部队的火力，步兵团内增编了1个自动枪连。步兵师增编了1个由12门火炮组成的独立反坦克炮兵营（装备57毫米反坦克炮），步兵团内也增加了1个反坦克枪连，增强了步兵同敌人坦克的作战能力。另外，步兵师编成内还增加了1个独立火箭炮营。这些变化都反映在1941年12月6日批准的编制里。
在1941年形势最为危急的岁月里，苏军作战部队急需受过训练的预备队以补充损失。而组建步兵师需要一段较长的时间（因为步兵师人数较多且编制复杂），作为一种迫不得已的临时性措施，苏军开始组建大量步兵旅应急。步兵旅的编成较小，而且编制较为简单，只有“旅－营－连－排－班”5级编制，步兵师则有“师－团－营－连－排－班”6级编制。步兵旅所需指挥人员较少，这对于当时极度缺乏有经验指挥员的苏军来说意义重大。步兵旅下辖3个步兵营，2个炮兵营，1个自动枪连和相应的勤务保障分队，其总人数约为5000～6000人。到1941年底，苏军共组建了159个步兵旅。
同其他军兵种一样，在第一阶中苏军诸兵种合成兵团（军团）编制也是从大规模向小规模转变。这一时期，苏军诸兵种合成兵团（军队）缩编过快且结构不合理。例如：诸兵种合成集团军缩编后没有建制内的炮兵，只能依靠临时加强；步兵师内的炮兵逐级减少，使得各级炮兵火力都很弱。这一切都严重影响