1928年7月18日，中共南(县)华(容)安(乡)特委在长沙被国民党破获，抄查出一张随营学校开给特委购买油印机的通行证。周磐当时正在长沙开会，一看通行证就认出是黄公略的笔迹，大叫“糟了”，立即给副师长李慧根拍发密电。
也是黄公略命大。周磐拍发密电时，他的马弁陈玉成在场。他是中共安插在独立第五师的秘密情报员，他不动声色地给彭德怀拍发电报，告知此事。彭德怀大惊，立即前往平江电报局，扣留了周磐给李慧根的密电。
7月20日，一团团党委与正在平江巡视的中共湖南省委特派员滕代远经过紧急磋商，决定于22日发动起义，成立中国工农红军第五军，并派人送信给黄公略，通知他在三团发动起义，将部队拉来平江城会合。
游击高手撰兵书
8月24日，起义部队改编为红五军，彭德怀、滕代远分任军长和党代表，黄公略任四团党代表。月底，根据中共湖南省委的指示，红五军向井冈山进发。行至江西万载时，由于一个副连长投敌告密，部队遭到国民党优势兵力的袭击，损失惨重，全军只剩下一千余人。
彭德怀称这段时间为红五军最困难的时期。黄公略提出两条建议：对混进起义队伍的军官进行审查和清洗；吸取在战斗中经过考验的优秀分子入党，并安排他们担任基层干部。
九月，红五军军委与湘鄂赣特委举行会议，决定将五军与各县游击队混编为五个纵队，任命黄公略为第二纵队纵队长。在这次会议上，彭德怀提出到井冈山向朱德、***领导的红四军取经的建议。会后，红五军兵分两路，彭德怀、滕代远率军部直属队和四、五纵队向南冲破敌人包围，前往井冈山寻找红四军，留下来的一、二、三纵队由黄公略统一指挥，担负起保卫和发展湘鄂赣根据地的任务。黄公略成为湘鄂赣根据地最高军事首长。
