为了保障黄河前线的部队补给，日军在这条交通线上的运输活动相当频繁。在经过长生口、神头岭两次伏击后，日军也加强了对这条交通线的保护，把公路两侧一百米距离内的树木、庄稼全部割光，除了在黎城驻军1000人，在涉县驻军400人，在武安驻军1500人外，还在椿树岭、东阳关增设了据点，派驻了中队级别的守备分队。
东阳关又称壶口旧（故）关、壶口关、盂口，春秋时就开始设置关隘，明朝设置巡检司。虽然东阳关比不上平型关、娘子关、雁门关险要，但也位处山西通往河北的要道，正在太行山的主脉上，关隘两侧都是峻岭悬崖，乱石层峦，几乎没有一步路是好走的。清朝编著的《山西通志》这样描述东阳关：“泽、潞凭高设险，障蔽两河，而潞川中夷外阻，尤自古形胜地也。其当东出之冲者，曰东阳关，在黎城县东二十里，一名吾儿峪，古壶口关也。”正是因为东阳关地势险要，所以历来都是兵家必争之地，发生过不少战事。
针对日军在晋南的动向，129师师长刘伯承认为有必要再对日军运输队进行一次较大规模的伏击，以破坏日军的战略计划。由于刘伯承马上就要去参加3月24日朱德总司令在沁县小东岭召开的军事会议，所以在刘伯承开会期间，由刚刚到任的邓小平政委坐镇师部，负责全局，由徐向前副师长具体指挥作战。
