当日军钻进115师设立的口袋时，聂荣臻命令：“沉住气，无命令不许开火。”八路军研究会会长陈知建将军说，“我们武器差，要打赢必须距离三十米之内，还不能让敌人发现。”
日军辎重队的总行军长度约4000米左右。林彪设想的最好开战情景是，当敌军“脑袋”到达老爷庙，“尾巴”正好在小寨村附近时再开火，这时敌军大部分已进入乔沟峡谷，歼灭起来最为轻松。
687团副团长田守尧看见日军辎重队全部通过了蔡家峪，大半个身子钻进了乔沟里，认为时机已到，下令开始攻击。687团3营9连副连长郭春林打响第一枪的瞬间，整个乔沟都响起炸豆般的枪声和手榴弹的爆裂声，公路南面山崖上的八路军，喊着震耳的杀声，向沟里的日军冲杀过来。
等待已久的“口袋阵”终于扎紧。
【收口袋】
抢占老爷庙肉搏制胜
时任115师独立团团长的杨成武回忆称，部队开拔前往战场时，村里的一位老汉十分忧心，“连门炮都没有，咋个跟日本人打。”
这位老汉的担忧并不意外。平型关大捷纪念馆就位于乔沟南侧约一公里处的山坡上，众多缴获战利品在馆内展出。从展出的武器可以看出，与配有三八大盖、轻重机枪、九二式步兵炮等精良武器的日军相比，以汉阳造、大刀、土手雷为主要武器的八路军装备显得过于简陋。
陈知建将军说，“八路军普通士兵打大仗每人有十几发子弹，打小仗才发三五发子弹。只有手榴弹是给足了的，一个人四枚。剩下就是刺杀，大刀、长矛。”
遭伏击的日军虽然是辎重运输部队，却并不好打。日军的单兵作战能力极强，甚至八路军最为拿手的刺刀战，也未占到多少便宜。
双方激战时，日军6架战机一度抵达战场上空支援，但此时，双方官兵已搅在一起，展开肉搏。日军飞机无法投弹和扫射，盘旋了一会儿后离开战场。115师一些指战人员后来回忆，一方面弹药不足，另一方面为躲避日军炮轰和飞机轰炸，与日军展开白刃战就是最后的办法。
687团3营9连副连长郭春林回忆，日军被挤在乔沟之中，人活动不开，重火力无法发挥，便拼死想要抢占乔沟两侧的山头。一股敌人偷偷地爬上了一个小山头，在那里架起了一挺机枪，向八路军扫射。研究平型关战斗的一些学者对比日军史料判断，占领小山头的正是这支日军的指挥官桥本顺正少佐。
老爷庙所处的山梁被称作老爷庙梁，是整个战场的制高点，如若日军控制老爷庙梁一带，不但难以围歼，甚至115师师部指挥所都会暴露在日军射程范围内。日军部分人员占领老爷庙高地后，战场形势一度变得紧张。
高凤山称，为了夺回老爷庙，686团3营营长邓克明、副团长杨勇先后负伤，几个营反复冲击多次均未成功。1营3连绕到老爷庙岭北边一个更高的高地，居高临下发起突然冲击。郭春林命令2排长秦二愣端掉这挺机枪。为缩小目标，秦二愣带着排里仅剩的十来个人，从山上滚下去，滚到敌机枪阵前扔出一束手榴弹，将机枪炸掉。3营乘机发起冲击，终于拿下了老爷庙高地。115师占领老爷庙高地后，战场形势立变，山沟里的日军只能到处躲藏，多次组织反扑老爷庙亦被打退。
“宛如地狱图画的悲惨场景”，《滨田联队史》这样描述日军在乔沟受伏后的战场，“行进中的汽车惨遭烧毁，每隔约20米，倒着几辆汽车残骸。公路上有新庄中佐等无数死亡者，以及被烧焦躺在驾驶室里的尸体。从岭上向峡谷一看，公路被辎重车辆、层层叠叠人马的尸体堵塞。”
