1921年11月,陈独秀由广州回到上海,开始担任中央的日常工作。陈长璞说,在爷爷签发的第一份通告上首次用陈独秀的英文缩写“T. S. chen”签名。
1922年7月16日,中共第二次代表大会在上海召开。陈独秀被选为中央执行委员会委员长。同年9月,中央的机关刊物《向导》创刊,陈独秀任主编。共产国际代表马林建议国共合作。之后,陈独秀同李大钊等人参加了国民党,即史称“第一次国共合作”。1923年6月12日,中共第三次代表大会在广州举行。在会上正式承认了国共合作,***进入中央局。“三大”会议上,根据《中央委员会组织法》,陈独秀被再次选为中央执行委员会委员长,***为秘书。“三大”之后,在中央签发的许多文件上有委员长陈独秀和秘书***的签名。
1925年1月,中共第四次代表大会在上海举行。陈独秀被选为中央局总书记兼组织部主任。10月,陈独秀出席了在北京召开的中央委员会扩大会议。
1927年4月27日,中央第五次代表大会在武汉召开。陈独秀被选为党的总书记。在会上,陈独秀的长子陈延年、次子陈乔年同时被选为中央委员。陈延年同时被选为政治局候补委员。
1927年大革命失败后,陈延年、陈乔年相继被国民党杀害。陈延年和陈乔年于1922年6月至1923年先后赴法国勤工俭学和赴莫斯科东方大学学习。陈延年曾先后任中共广东区委组织部长、区委书记,中共江浙区委书记,江苏省委书记,1927年6月29日牺牲时,年仅29岁。陈乔年先后任中共北京地委组织部长、北方区委组织部长,中共湖北省委书记,中共中央组织部副部长,中共江苏省委组织部长等职。1928年1月19日牺牲时,年仅26岁。大半年时间内,陈独秀痛失两个爱子,身心受到巨大摧残。
陈独秀曾经对濮清泉(濮德治)说:第五次代表大会,自己成为众矢之的,大家骂我是“右倾”机会主义、投降主义,我投降了哪个?蒋介石把延年、乔年都杀了,我投降他吗?汪精卫高唱:“革命的到左边来,不革命的滚开去。”不仅我以为他是“左派”,连斯大林也认为他是“左派”。1929年11月5日,陈独秀被开除党籍。在这期间,陈独秀逐渐接受了苏联托洛茨基的观点,对共产国际的独裁专制颇为不满,办刊物、写文章声明中国的问题应该由中国人自己研究解决。