7月初，二支队三团一营伏击当涂至芜湖之间的火车，击毁敌军车一列，缴获大批军用品。8月5日，第二支队一部在芜湖以东永安桥与日军遭遇，首次俘获日军1名。8月中旬，二支队司令张鼎丞率第四团从南陵出发，通过封锁线，到达第二支队司令部当涂县塘南阁。后来张鼎丞根据上级安排去了延安。
国民党当局对挺进江南敌后的新四军，一方面玩弄“借刀杀人”诡计，企图借日军之手消灭这支共产党领导的部队；另一方面又实行“画地为牢”，规定江南新四军活动的区域，只能在京沪铁路以南，东西长不过百余公里、南北宽只有五六十公里的一块狭长地带作战，倘若“越界”，就要被视作违反“军令”、“政令”处罚。
粟裕坚决贯彻中共中央指示精神，冲破国民党当局设置的“牢笼”，领导和指挥二支队迅速展开于京芜铁路以东、京杭公路以西地区，独立自主地游击江南，打击日本侵略军。
此时，正面战场的武汉会战正酣。国民党当局迫切需要深入江南敌后的新四军配合正面战场作战，更多地牵制敌人一些兵力。新四军不负众望，以一系列的战斗行动有效地配合了正面战场作战。这是日军万万没有料到的。日军立即调整兵力部署，采取防御性的攻势反扑。8月22日至26日，日、伪军出动步兵4000余人，骑兵500余人，并有轰炸机20余架配合，兵分八路，水陆并进扫荡，企图一举聚歼初进江南敌后的新四军二支队三团于小丹阳。
粟裕敏锐地注视着敌情发展，筹谋应敌良策，决定采取敌进我进游击战术，变被动为主动，分散袭击敌人后方。粟裕命令二支队三团一部进袭当涂，造成敌之恐慌；一部进击南京以南的陶吴，牵制敌兵力；另选精兵一支，奔袭南京近郊，夺取雨花台制高点，袭击中华门内外日、伪军事目标。此时一支队已动员广大地方武装及人民群众将京沪、京杭、镇句、句丹、京镇各公路彻底破坏，并派部队进袭麒麟门，给南京敌人以极大威胁，有力地配合了二支队的作战行动。日军到达小丹阳，不见新四军踪影，却连连收到后方告急电报，慌忙撤退回防。粟裕抓住战机，命令部队勇猛追击，连克小丹阳、薛镇、护驾墩、博望等村镇，毙伤敌50余人，粉碎了日军的合击计划，自己无一伤亡。指挥的敌后游击战节节胜利，打得日军胆战心惊。日军气急败坏又无可奈何地说：“新四军是个神，你打他时一个也没有，他打你时都出来了。”
