炮兵师在第一次世界大战期间首次组建，作为一种比分散使用火炮更加有效的方式，炮兵师在支援重大进攻行动时，能够集中使用数百门火炮，组织起极为强大的火力压制，令敌方无法招架。
只有俄罗斯(苏联)一直将这种炮兵师建制沿用到第二次世界大战，并贯穿此后的冷战期间，其他社会主义国家也引进了这种建制。目前，中国还保留有6个炮兵师，但已经引入了新的因素。
中国炮兵师之所以存在，主要是为把特种炮保存在一起。炮兵师可以监管加农炮、火箭炮和导弹部队装备的训练和维护，并管理大量的弹药。
在战时，炮兵师将有计划地将它们的武器合理地分配到那些正需要这些特种火炮的部队。而在西方国家，炮兵部队最大单位是旅，最小单位是营。
