苏联陆军炮兵由队属炮兵和最高统帅部预备队炮兵（我军称为预备炮兵）组成，由于队属炮兵编制情况已于诸兵种合成兵团（军团）部分加以介绍，本节只介绍最高统帅部预备队炮兵的编制情况。此外，苏军自行火炮部队刚组建时曾归属炮兵建制，后来由于炮兵部门没有培养乘员的学校（因为自行火炮多使用坦克底盘，其驾驶员都是由坦克兵学校培训）和车辆保养维修问题（同样是因为没有相应的技术人员）而编给了坦克兵。但其使用方式和编制特点都与坦克兵不同，故本文将苏军自行火炮部队的编制情况与炮兵一并介绍。而苏军战后自行火炮也是被划作炮兵武器的。
战前的苏军最高统帅部预备队炮兵编制和装备都比较弱，其编制内只包括一些独立炮兵团和炮兵营。独立炮兵团按装备类型分为2种，一种是加农炮兵团，另一种是榴弹炮兵团。加农炮兵团在战前刚由3营制改编为4营制，每个营辖有3个炮兵连，每个炮兵连装备4门火炮。其装备也由老式的107毫米加农炮换装为122毫米加农炮。榴弹炮兵团也由3营制改编为4营制，但其按装备分为2种类型：一部分榴弹炮兵团装备48门152毫米加农榴弹炮，其他大部分则装备有24门203毫米榴弹炮。最高统帅部预备队所属的炮兵营分为特大威力独立炮兵营和独立迫击炮营。特大威力独立炮兵营由3个炮兵连组成，每个炮兵连装备2门火炮。这种营装备的火炮为210毫米加农炮、280毫米和305毫米榴弹炮。独立迫击炮营由4个连组成，每个炮兵连装备12门120毫米迫击炮。为了对付集群坦克的威胁，1941年4月26日苏联国防人民委员部下达命令，组建反坦克炮兵旅。该旅编有2个反坦克炮兵团、1个地雷工兵营和若干勤务分队。每个反坦克炮兵团下辖3连制炮兵营5个，其中装备762毫米加农炮的营2个，装备37毫米高射炮的营、装备85毫米高射炮（打坦克用）和107毫米加农炮的营各1个，共装备762毫米加农炮48门，85毫米高射炮和107毫米加农炮各24门，以及16门37毫米高射炮。到苏德战争爆发之前，苏军最高统帅部预备队炮兵共有74个炮兵团（60个榴弹炮团、14个加农炮团）、10个处于组建阶段的反坦克炮兵旅、若干特大威力独立炮兵营和独立迫击炮营。
在苏军损失惨重的1941年，各种武器装备（当然也包括各种火炮）都极度缺乏，而这时最高统帅部预备队炮兵却得到了很大加强，当然这是以削减队属炮兵数量为代价的。步兵师内被取消的1个榴弹炮团和被撤销的步兵军所属炮兵团，都被转隶给最高统帅部预备队炮兵。尽管如此，各种火炮装备仍有很大缺额，所以炮兵团的规模都被压缩了。每个炮兵团一般编有18～24门火炮。正处于组建阶段的反坦克炮兵旅被解散，代之以反坦克炮兵团。这时的反坦克炮兵团比反坦克炮兵旅下属的反坦克炮兵团的规模要小得多。其直辖4～5个反坦克炮兵连，没有营这一级编制，共装备反坦克炮16～20门。
1941年，最高统帅部预备队开始组建火箭炮部队，为了掩人耳目而称为近卫迫击炮部队。第1个火箭炮连在1941年6月组建，由1个指挥排、3个火力排、1个弹药排、1个试射排和若干勤务分队组成；装备5门bm13式火箭炮、1门122毫米试射榴弹炮和44辆负责后勤运输的汽车。第1个火箭炮连的编制相当庞大，并带有某些试验的性质。例如后来的火箭炮连多为每连4门火箭炮，而非5门。1941年8月起，组建了8个近卫火箭炮兵团（每团辖2～3个营，每个营通常编有2个火箭炮连）。由于火箭炮团编制过于庞大，且火箭炮部队多以营为单位派到各战区去执行任务，于是在1941年11—12月，除先前组建的8个团以外的火箭炮团都改编为独立火箭炮营。以上火箭炮部队和分队在组建之初，就全部获得了“近卫军”称号。到1941年底，苏军最高统帅部预备队炮兵共有215个炮兵团、8个火箭炮兵团、73个独立火箭炮兵营以及一些独立炮兵营。
1941年的苏军最高统帅部预备队炮兵与苏军其他单位正好相反，处于急速扩充的时期。这就保证了苏军统帅部握有强大的炮兵部队，可以在整条战线上广泛机动以加强形势最危急的地段。最高统帅部预备队炮兵对苏军稳定战线，发挥了巨大作用。怪不得德国士兵对这一时期的苏军炮兵印象很深，称“俄国大炮打得很厉害……”，可见对其具有相当的恐惧感。
1942年，苏联的军工生产能力有所恢复，苏军开始得到较多的武器装备补充。同时，苏军取得了使用炮兵的经验，因而开始着手扩大最高统帅部预备队兵的编制。1942年10月，苏军开始组建最高统帅部预备队炮兵师。这种炮兵师是以合并原有的独立炮兵团的办法组建成的，每个炮兵师由8个炮兵团组成，其中有2个加农炮兵团、3个榴弹炮兵团和3个反坦克歼击炮兵团，共装备168门各型火炮。苏军在斯大林格勒反攻中使用炮兵师的经验证明，炮兵师的编制和装备应进行进一步的扩充和加强。1942年7月1日，苏军反坦克炮兵改称反坦克歼击炮兵，反坦克炮兵团也相应改称反坦克歼击炮兵团。其编制在1942年变化不大，只是有些反坦克歼击炮兵改为直辖6个炮兵连，装备反坦克炮24门。在同一年的11月份，最高统帅部预备队内的第一批近卫火箭炮兵师开始组建。每个师编有2个13式火箭炮兵团。从