苏联陆军炮兵由队属炮兵和最高统帅部预备队炮兵（我军称为预备炮兵）组成，由于队属炮兵编制情况已于诸兵种合成兵团（军团）部分加以介绍，.此外，苏军自行火炮部队刚组建时曾归属炮兵建制，后来由于炮兵部门没有培养乘员的学校（因为自行火炮多使用坦克底盘，其驾驶员都是由坦克兵学校培训）和车辆保养维修问题（同样是因为没有相应的技术人员）而编给了坦克兵。但其使用方式和编制特点都与坦克兵不同，故本文将苏军自行火炮部队的编制情况与炮兵一并介绍。而苏军战后自行火炮也是被划作炮兵武器的。
战前的苏军最高统帅部预备队炮兵编制和装备都比较弱，其编制内只包括一些独立炮兵团和炮兵营。独立炮兵团按装备类型分为2种，一种是加农炮兵团，另一种是榴弹炮兵团。加农炮兵团在战前刚由3营制改编为4营制，每个营辖有3个炮兵连，每个炮兵连装备4门火炮。其装备也由老式的107毫米加农炮换装为122毫米加农炮。榴弹炮兵团也由3营制改编为4营制，但其按装备分为2种类型：一部分榴弹炮兵团装备48门152毫米加农榴弹炮，其他大部分则装备有24门203毫米榴弹炮。最高统帅部预备队所属的炮兵营分为特大威力独立炮兵营和独立迫击炮营。特大威力独立炮兵营由3个炮兵连组成，每个炮兵连装备2门火炮。这种营装备的火炮为210毫米加农炮、280毫米和305毫米榴弹炮。独立迫击炮营由4个连组成，每个炮兵连装备12门120毫米迫击炮。为了对付集群坦克的威胁，1941年4月26日苏联国防人民委员部下达命令，组建反坦克炮兵旅。该旅编有2个反坦克炮兵团、1个地雷工兵营和若干勤务分队。每个反坦克炮兵团下辖3连制炮兵营5个，其中装备76.2毫米加农炮的营2个，装备37毫米高射炮的营、装备85毫米高射炮（打坦克用）和107毫米加农炮的营各1个，共装备76.2毫米加农炮48门，85毫米高射炮和107毫米加农炮各24门，以及16门37毫米高射炮。到苏德战争爆发之前，苏军最高统帅部预备队炮兵共有74个炮兵团（60个榴弹炮团、14个加农炮团）、10个处于组建阶段的反坦克炮兵旅、若干特大威力独立炮兵营和独立迫击炮营。
在苏军损失惨重的1941年，各种武器装备（当然也包括各种火炮）都极度缺乏，而这时最高统帅部预备队炮兵却得到了很大加强，当然这是以削减队属炮兵数量为代价的。步兵师内被取消的1个榴弹炮团和被撤销的步兵军所属炮兵团，都被转隶给最高统帅部预备队炮兵。尽管如此，各种火炮装备仍有很大缺额，所以炮兵团的规模都被压缩了。每个炮兵团一般编有18～24门火炮。正处于组建阶段的反坦克炮兵旅被解散，代之以反坦克炮兵团。这时的反坦克炮兵团比反坦克炮兵旅下属的反坦克炮兵团的规模要小得多。其直辖4～5个反坦克炮兵连，没有营这一级编制，共装备反坦克炮16～20门。
1941年，最高统帅部预备队开始组建火箭炮部队，为了掩人耳目而称为近卫迫击炮部队。第1个火箭炮连在1941年6月组建，由1个指挥排、3个火力排、1个弹药排、1个试射排和若干勤务分队组成；装备5门BM-13式火箭炮、1门122毫米试射榴弹炮和44辆负责后勤运输的汽车。第1个火箭炮连的编制相当庞大，并带有某些试验的性质。例如后来的火箭炮连多为每连4门火箭炮，而非5门。1941年8月起，组建了8个近卫火箭炮兵团（每团辖2～3个营，每个营通常编有2个火箭炮连）。由于火箭炮团编制过于庞大，且火箭炮部队多以营为单位派到各战区去执行任务，于是在1941年11—12月，.以上火箭炮部队和分队在组建之初，就全部获得了“近卫军”称号。到1941年底，苏军最高统帅部预备队炮兵共有215个炮兵团、8个火箭炮兵团、73个独立火箭炮兵营以及一些独立炮兵营。
1941年的苏军最高统帅部预备队炮兵与苏军其他单位正好相反，处于急速扩充的时期。这就保证了苏军统帅部握有强大的炮兵部队，可以在整条战线上广泛机动以加强形势最危急的地段。最高统帅部预备队炮兵对苏军稳定战线，发挥了巨大作用。怪不得德国士兵对这一时期的苏军炮兵印象很深，称“俄国大炮打得很厉害……”，可见对其具有相当的恐惧感。
1942年，苏联的军工生产能力有所恢复，苏军开始得到较多的武器装备补充。同时，苏军取得了使用炮兵的经验，因而开始着手扩大最高统帅部预备队兵的编制。1942年10月，苏军开始组建最高统帅部预备队炮兵师。这种炮兵师是以合并原有的独立炮兵团的办法组建成的，每个炮兵师由8个炮兵团组成，其中有2个加农炮兵团、3个榴弹炮兵团和3个反坦克歼击炮兵团，共装备168门各型火炮。苏军在斯大林格勒反攻中使用炮兵师的经验证明，炮兵师的编制和装备应进行进一步的扩充和加强。1942年7月1日，苏军反坦克炮兵改称反坦克歼击炮兵，反坦克炮兵团也相应改称反坦克歼击炮兵团。其编制在1942年变化不大，只是有些反坦克歼击炮兵改为直辖6个炮兵连，装备反坦克炮24门。在同一年的11月份，最高统帅部预备队内的第一批近卫火箭炮兵师开始组建。每个师编有2个M-30式火箭炮兵旅和4个BM-13式火箭炮兵团。从1941年12月起，苏军开始组建独立迫击炮兵团。这些迫击炮兵团在战争各个时期编入各兵种的队属炮兵内，以及最高统帅部预备队炮兵师内，有些作为独立团保留到了战争结束。其编成通常由2~3个迫击炮兵营组成，每营3个迫击炮连。全团装备160毫米迫击炮18门（每连2门）或120毫米迫击炮36（每连4门）。为了在山区作战，还曾组建过山地驮载独立迫击炮兵团，其装备改换为107毫米山地迫击炮。高射炮兵师于1942年11月开始组建。刚组建时的这种师由4个小口径高射炮兵团组成，按编制装备37毫米或25毫米高射炮48门以及高射机枪80挺，编制人数约2000人。从其装备上来看，这种高射炮兵师并不具备中空防空能力，其装备的高炮有效射高最大的只有3000米，只具有射击低空敌机的能力。
1942年的苏军最高统帅部预备队炮兵的编制有所扩大，炮兵师、近卫火箭兵师、高射炮兵师开始出现，作战威力有了较大提高。但其编制并不完善，影响了其战斗力的发挥，这就需要在1943年以后继续加以改进。到1942年11月，最高统帅部预备队炮兵共拥有火炮、迫击炮和火箭炮约17000门。
1943年以后，苏联军工生产能力大大提高。仅在1943年，苏军作战部队就得到了约20万门火炮。最高统帅部预备队炮兵的编制在这一时期得到了迅速扩大。1943年春，突破炮兵军这一编制首次出现在苏军战斗序列中。这也可能是世界上最大的炮兵编制单位。每个炮兵军由2个突破炮兵师和1个近卫火箭炮兵师组成，共装备火炮、迫击炮、火箭炮约1000门。配属布良斯克方面军的第2、第7突破炮兵军和配属中央方面军的第4突破炮兵军均参加了库尔斯克会战，在会战中发挥了巨大的作用。1943年，在列宁格勒还组建了第3对敌炮兵战炮兵军，专门用于对德军轰击列宁格勒的炮兵进行炮战。在1944年1月，第3对敌炮兵战炮兵军也被改编为突破炮兵军。
从1944年起，近卫火箭炮兵师陆续从突破炮兵军序列中划出。因此，从这时起突破炮兵军一般下辖2个突破炮兵师，装备火炮和迫击炮约550门。到战争结束阶段，苏军共拥有10个突破炮兵军。1943年，苏军炮兵师开始划分为三种类型：突破炮兵师、近卫火箭炮兵师和加农炮兵师。加农炮兵师与突破炮兵师的主要区别是，加农炮兵师主要负责与敌炮兵进行炮战和摧毁远距离上的重要目标，突破炮兵师则负责摧毁敌防御阵地和压制敌浅近纵深内的火力。1943—1945年，突破炮兵师包括6～7个炮兵旅，通常包括1个装备76.2毫米加农炮的轻炮旅、1个装备122毫米榴弹炮的榴炮旅、1个装备152毫米榴弹炮的重炮旅、1个装备203毫米榴弹炮的重型榴炮团、1个装备120毫米迫击炮的迫击炮旅、1个装备160毫米迫击炮的重迫击炮旅以及1个近卫火箭炮兵旅；全师装备火炮、迫击炮和火箭炮260门左右。加农炮兵师通常编有4个加农炮兵旅。
近卫火箭炮兵师1943年5月开始调整建制。每个师由3个同一类型的近卫火箭炮兵旅组成，这样使得射击指挥、后勤保障更加便利，全师共装备288门火箭炮。该师一次齐射可发射3456发火箭，总重达320吨。这些近卫火箭炮兵师先是编入突破炮兵军，后又被划出成为独立师。近卫火箭炮兵旅也有一部分编入突破炮兵师，其他则是独立旅。截止1945年5月1日，近卫火箭炮部队已编有7个师、11个独立旅、114个独立团和38个独立营，共装备火箭炮3081门，成为一支威力巨大的打击力量。1943年6月，最高统帅部预备队所属的反坦克歼击炮兵团开始合编为反坦克歼击炮兵旅（有些反坦克歼击炮兵团则作为独立团一直保留到战争结束），仍隶属于最高统帅部预备队。每个反坦克歼击炮兵旅编有2个76.2毫米炮团和1个45毫米炮团，每团下辖5个炮兵连，每连4门火炮，共装备反坦克炮60门。此后，反坦克歼击炮兵旅（团）的装备不断，战争结束前其装备大多为57毫米、76.2毫米、100毫米反坦克炮，作战威力比初建时提高很多。1943年2月，苏军统帅部批准了最高统帅部预备队高射炮兵师的新编制。新编制为每师下辖4个团，其中1个85毫米高射炮兵团、3个37毫米高射炮兵团。中口径高射炮兵团装备85毫米高射炮16门，小口径高射炮兵团装备37毫米高射炮16门及大口径高射机枪16挺。从1944年春开始，小口径高射炮兵团用6门制高炮连代替了4门制高炮连，此时全师装备高射炮80门，其中小口径高射炮64门。
这时的高射炮兵师已拥有了中空防空能力和更强的低空防空能力，使得苏军地面部队得到了更有效的对空防御能力。
二战中出现的装甲机动战引起了陆军战术、编制体制的极大变化，炮兵也不能在这种变化中置身于外。这时的牵引炮兵最大的尴尬是跟不上高速突进的坦克兵的速度，使得坦克往往在敌纵深内孤军作战而得不到火力支援。为了解决这一问题，自行火炮应运而生。苏军第一批自行火炮团是于1942年底到1943年初组建的，这些自行火炮团都隶属于炮兵建制。第一批自行火炮团在编制、装备上都不一样，但都实行混合编制，即每个团内装备不同类型的自行火炮。通常每个自行火炮团直辖6个连，装备SU-76自行火炮17门和SU-122自行火炮8门。经过实战证明，这些自行火炮团可以发挥很大作用。但同时也发现了一些缺点，在同一个团里使用不同类型的自行火炮，增加了指挥协同的复杂性。
1943年4月底，所有已组建的自行火炮团都编给了坦克兵，不再隶属于炮兵建制。5月，自行火炮团开始实行新编制，每个团都装备同一型号的自行火炮。当时组建了三种类型的团：装备SU-76的轻型自行火炮团、装备SU-122的中型自行火炮团和装备SU-152的重型自行火炮团。这些团都编有指挥排、补给排、修理排、运输排、团救护所和勤务班等保障分队。同时，各团都直辖4个自行火炮连，-76轻型自行火炮团每连装备5门自行火炮，全团装备21门自行火炮（含团部1辆）；SU-122中型自行火炮团每连装备4门自行火炮，全团装备16门自行火炮和1辆T-34坦克；SU-152重型自行火炮团每连装备3门自行火炮，全团装备12门自行火炮和1辆KB重型坦克。这样就使得自行火炮团在指挥协同、后勤保障上都大大简化，作战能力也得到了相应提高。
1944年，苏军开始装备以“斯大林”2重型坦克底盘生产的新式自行火炮——ISU-152和ISU-122自行火炮。同年2月，自行火炮团进行了战争期间最后一次改编，仍然分为三种类型，即轻型，中型和重型自行火炮团。但每个团都改为装备21门自行火炮，即每个连都装备5门自行火炮加团部1辆，同时增编1个自动枪连和1个技术保障连。5月，苏军统帅部批准独立自行火炮营的编制。每营编3个连，每连装备4门SU-76自行火炮，共有自行火炮12门。这种营被编入近卫兵师序列之内。为了加强诸兵种合成集团军和坦克集团军的反坦克机动兵力，1944年2月为它们组建了轻型自行火炮旅。这种旅编有指挥连（T-70轻型坦克2辆）、高射机枪连、技术保障连和卫生排等保障分队，旅下辖1个自动枪营和3个自行火炮营。自行火炮营与轻型自行火炮团下属的营编制基本相同，只是将营部的1辆SU-76自行火炮换成了1辆T-70坦克。全旅共有人员1112人，装备SU-76自行火炮60门和T-70坦克5辆。1944年12月，以若干坦克旅为基础，组建了近卫重型自行火炮旅。这些旅的编制大体相同，都编有3个团和一些勤务保障分队，共有人员1804人，装备65门ISU-152重型自行火炮和3辆SU-76自行火炮。此时，还组建了编制上差不多的另一种自行火炮旅，事实上称之为自行反坦克歼击炮兵旅更确切一些。这种旅共有人员1492人，装备SU-100自行火炮65门和3门SU-76自行火炮。这是不折不扣的“坦克杀手”旅，只是战争很快结束，未能给它们更多的施展的机会。要不然，这种旅里肯定会出现不少“屠虎杀豹”的王牌。以上这两种旅都隶属于最高统帅部预备队，是加强主要突击方向上作战力量的强大机动兵力。
从二战苏军炮兵编制的发展变化可以看出，苏军极为重视这一被斯大林称为“战争之神”的兵种，尤其是最高统帅部预备队炮兵的建设。苏军通过最高统帅部预备队炮兵在战线上广泛机动，使炮兵火力能够迅速集中到形势最危急、对全局最有影响的地段上，对战争进程产生了很大影响。到1945年初，苏军炮兵共拥有91400门各类火炮和迫击炮、2993门火箭炮。这是一支威力巨大的炮兵，对最终战胜法西斯作出了重要贡献。苏军在制定自行火炮部队编制时取得了很多经验，其中一些对战后地面装备发展具有相当影响。比如苏军编组同时装备自行火炮和坦克的自行火炮部队时，注意到自行火炮底盘和所装备坦克底盘的一致性（例如轻型自行火炮旅装备SU-76自行火炮和T-70轻型坦克，两者底盘相同），使它们大体拥有相同的机动性，提高了指挥效能和协同作战能力。今天世界上蓬勃发展的“车族”概念，可以说就是借鉴了这类经验。