粟裕根据中共苏区中央分局和中央军区的指示,立即率领突围回到闽浙赣苏区的红十军团先头部队,同红三十师一个团组成挺进师,粟裕任师长,刘英任政治委员,于2月27日由上饶灵山地区出发,向闽浙边地区转移,开展游击战争,创建根据地。经过认真分析研究,粟裕、刘英选中了浙西南的仙霞岭地区。那里层峦叠嶂,林深路曲,既便于隐蔽,也便于机动。
粟裕带领部队转战闽浙边,甚至对汤恩伯的老家武义,陈诚的老家青田,蒋介石的老家奉化也不断“光顾”,使蒋介石极为头疼,曾悬赏万元,捉拿“金米”“苏群”“余良”等“共匪”首领。其实这些名字都是粟裕一个人的化名。
1937年抗战全面爆发后,国共再次合作抗日。国民党遂昌县政府就派来了代表,请游击队下山进城。经过一番谈判,粟裕率部下山。当红军队伍整整齐齐地出现在县城的时候,全城扶老携幼,争相观看。队伍经过杭州时,浙江省省长黄绍竑宴请粟裕等红军将领,黄绍竑打量了粟裕半天,仍然怀疑地问:“你就是粟裕?”粟裕回答道:“黄省长一定以为我是青面獠牙吧?”“那倒不是。”黄绍竑说,“没想到你是这么一个瘦弱的书生。你这个人实在不可思议。我打你时,年复一年,东征西讨,不知费了多少力气,连你的影子都没有见到。可是和谈一开,城里乡下到处都是你的人。”