陕甘宁留守兵团的前身为八路军后方总留守处，所属部队从115师、120师、129师抽调编成，归中央军委直接指挥。
1937年12月，陕甘宁留守兵团正式宣布成立，萧劲光任司令员兼政治委员，曹里怀任参谋长，莫文骅任政治部主任。主要任务是保卫陕甘宁边区和延安，并负责黄河河防守备。
陕甘宁留守兵团成立初期有9000多人。具体编制为：
警备第1团（120师辎重营、炮兵营改编）；
警备第2团（129师特务营扩编）；警备第3团（129师炮兵营扩编）；警备第4团（115师辎重营、炮兵营改编）；
警备第5团（120师特务营扩编）；警备第6团（120师工兵营扩编）；警备第7团（129师工兵营扩编）；警备第8团（120师359旅718团改编）；
第129师385旅770团。