曾国藩墓
光绪二十八年，已逾六旬的吴汝纶决定南归终养，吏部尚书张百熙却登门拜访，请他出任京师大学堂总教习，加五品京卿衔，吴汝纶欲辞不就，张百熙甚至于跪地相求。无奈之下，吴汝纶暂时接受了任命，但并未去京师大学堂任职视事。
在家乡，他真正开始实践他的办学思路。他撰写了一系列办学宗旨：“全国各省、府、县都要分立大、中、小学堂”，“一县不可止立一学，各乡皆须立学”，“学堂愈多，愈能收效，不宜化多为少”，“普国人而尽教之，不入学者有罚”，“先立师范学堂，取成学之士，延外国教习”……
曾国藩书法
桐城中学堂就是他的实验田，除了延聘当地名流出任堂长、教员外，他还从日本请来了早川新次等为外籍教师。并亲笔撰写了那幅著名的对联：“后十百年人才奋兴胚胎于此，合东西国学问精粹陶冶而成”，横披为“勉成国器”。
最初的桐城学堂是借安庆武备学堂为校舍，二年后迁回桐城，改名为桐城县公立中学堂。学堂办成了，然而忧患之中，吴先生却积劳成疾，于光绪二十九年(1903)新春正月阖然长逝。其后不久，新文化运动发起，白话文取代了文言文，桐城派作为古文流派也结束了它的历史使命，成为了中国文学史上的一页教科书。
“合东西国学问精粹”，这是一个桐城派后期代表人物吐故纳新，自觉接受外来文化的最好例证。百年之后的中国，吴先生当年“普国人尽教之，不入学者有罚”的全民教育思想已成为现实。
