1921年12月在以保罗·孟禄为中心的讨论会上，陶行知提出这样的主张：
必须重视占中国社会85%以上的农民教育，为此须在广大的乡村遍设师范学校，要改变师范学校只开设在主要都市，毕业生一向不愿赴任乡村的现状。因此除设乡村师范之外，别无他法。
但是，反对者居多数。孟禄也反对说：在培养城市教师的学校中附属乡村部，把长期的乡村实验作为必修课，不也是可行的吗？
1926年秋召开研究会之后，改进社按照《宣言》的方向，加紧进行了乡村师范学校的具体准备，成立了校务理事会，改进社理事蔡元培任理事长。对陶行知来说，这是他酝酿了很久的设想，总算就要付诸实现了。
在南京郊外，他积极进行了“试验乡村师范学校”的筹备工作。1927年3月15日在举行开学典礼的时候，陶行知作为校长，决定正式把学校命名为“晓庄师范学校”。晓庄位于南京和平门到燕子矶一带，在周围约40华里的区域内建立了学园村。举行开学仪式那天，参加的学生有13名[34]。据说原预定招募学生20名。学生若是初中毕业以上，则不受其年龄限制。入学考试除作文、数学外，再简单进行一段演说，以及能否胜任体力劳动的测试。每半年招收一次新生。到1929年就有了相当多的学生，但准确数目不详。学园村以晓庄学院本部为中心，下属7所小学，其中4所学校附设有幼稚园，不久又创建了一所中学，还建起大礼堂、图书馆、音乐厅、标本陈列室、研究室等。这些建筑物几乎全是开学后，陶校长和指导员（不称教师）以及学生们自己劳动建造的。