在创建井冈山和中央革命根据地过程中，张宗逊一直在***率领下行动。因此，当***遭受“左”倾机会主义路线排挤时，张宗逊也受到了牵连，1934年春被免去了师长职务，派往红军大学学习。长征之初，身处逆境的***仍为张宗逊说情。后来，在周恩来的干预下，张宗逊被重新起用，先是担任中央纵队参谋长，很快又调任红三军团主力第四师师长。在彭德怀直接指挥下，张宗逊率部强渡湘江、攻克遵义、四渡赤水、夺占娄山关，立下了汗马功劳。
1937年初，知人善任的***调张宗逊担任中央军委第一局局长，主管作战、文秘、机要、警卫和行管等工作。因为张宗逊是陕西人，对陕北的风土人情都很熟悉，他到任后，便奉命为军委机关迁往延安打前站。于是，张宗逊率警卫团一部及先遣人员，骑马星夜赶往延安，划分了各单位的驻地，布设了警戒，制订了迁移方案，后返回保安呈请***审定。***感慨地说：“十年前你护送我上井冈山，现在又护送我去延安，这是缘分啊！”1937年1月至7月，张宗逊在***直接领导下，协助处理军委总部的日常军务。他认真上传下达，成了连接红军各大单位的中间环节。在工作中，***对张宗逊有了更深的了解，觉得他诚实、厚道、勤奋、谦虚。张宗逊则从***那里学到了做人处事的要诀。他们相互间建立了更深的信赖和友谊。
抗战之初的1937年8月上旬，张宗逊担任红二方面军第二军团第四师师长。下旬，红军改称八路军后，贺龙担任一二○师师长，负责的军务更多，而接替他直接抓第三五八旅的将领人选就非常重要。为此，贺龙提出，请***指派一位从井冈山成长起来的将领，担任三五八旅旅长。经过反复协商，***最后确定由张宗逊担任这一重要职务。
抗日战争时期，张宗逊率八路军三五八旅，转战于晋西北、五台山、大青山和冀中平原，广泛开展游击战，参加了雁门关伏击战、滑石片伏击战、邢家庄战斗、黑马张庄伏击战、齐会战斗、陈庄战斗、米峪镇遭遇战、田家会战斗、百团大战等一系列着名战斗，显示出八路军名将的风采。
滑石片伏击战时，张宗逊以第七一六团设伏主攻，以第七一四团打援。他强调兵贵神速，要部队突出一个“快”字。经一夜激战，我军连续击退日军的5次反扑。战至次日拂晓，一举消灭日军700余人，生俘21人，仅有10余人逃跑，缴获众多。
米峪镇遭遇战时，张宗逊开始打算在该镇以北大夫庄附近设伏歼敌。不料，米峪镇日军未动。于是，他大胆改为主动迎敌，以主力部队向米峪镇开进，准备在遭遇战中歼敌。果然，我先头第七一四团进到曹家掌时与日军遭遇，该团先机击敌。接着，第七一六团也投入战斗。日军遭重创，夺路突围逃跑。张宗逊立即调整部署，再次将该股日军包围。经激战，歼日军500余人。此战，是八路军一二○师回师晋西北后取得的第一个歼灭战胜利。解放战争之初，张宗逊先后担任晋绥野战军第一纵队和西北野战军第一纵司令员。他率部先进行西华池攻坚战，击毙号称胡宗南“四大金刚”之一的第四十八旅少将旅长何奇。接着参加延安保卫战。尔后，率部参加了青化砭、羊马河和蟠龙战役，三战三捷，为先后活捉敌第三十一旅少将旅长李纪云、第一三五旅少将代旅长麦宗禹、胡宗南“四大金刚”之一的第一六七旅少将旅长李昆岗，立下了大功。
