学校教育是人类社会发展到一定历史阶段的产物。学校的产生并非一朝一夕的事情，而是要经过相当长的孕育、萌芽、成长的过程。据文献考察，中国古代学校的萌芽是在原始社会末期，那时生产有了发展，人们在维持自身和家庭成员的生活之外，逐渐有了劳动产品的剩余，使得少数人可以在别人的劳动产品供养之下从事脑力劳动。这就为学校的萌芽准备了条件。在山东大汶口出土的距今约5000年前的陶器上，就已出现很规则的意符文字;这为探索中国古代学校的萌芽投射了新的光明。文字的产生为日益繁复的社会知识和自然知识的积累创造了有利的条件，同时也造成了产生学校的现实需要。因为要掌握文字和由文字保存下来的社会经验，就更加需要专门的指导和学习，就是说必须经过有组织的学校教育。萌芽性的学校大概就在“明堂”之中，最初的教师可能就是掌握文字的“巫史”。
古籍记载：“成均，五帝之学。”“五帝”即黄帝、颛顼〔zhuan xu专须〕、帝喾〔ku库〕、尧、舜，是后世传说中的原始社会末期部落联盟的首领。“成均”可能就是“五帝”时期萌芽中的学校名称。又有记载：“米廪，有虞氏(舜)之庠也”。“庠”是舜时学校的名称。庠的原意是“养”，即把有道德、有经验、有知识的老人养在那里，专门从事教育年轻一代的工作。“庠”既然是供养老人的地方，便需要储存一定的粮食，所以后世又称“庠”为“米廪(仓)”。这里被供养的老人很可能就是为氏族显贵服务的巫、史。所以我们可以说，“成均”、“庠”可能是中国古代萌芽中的学校，开始时还不是专门的教育机关，而是逐渐形成学校的过渡机关，起着教育年轻一代的作用，为以后专门教育机构的产生奠定了基础。