书院本是藏书之处，唐代集贤殿书院就是宫廷图书馆。发明印刷术，使过去必须逐字抄写的书籍可以整版地印出来，为藏书提供了便利的条件，民间学者也将自己的藏书和读书场所称为书院。后来，书院就逐渐发展成以藏书为基础、教学和学术研究活动的机构。这种书院出现在唐末五代时期。宋代统治者鼓励民间兴办书院，皇帝赐匾额，朝廷赐图书，地方当局给予房地产资助，使书院兴盛起来。著名学者举办的书院，往往是一方学术中心，吸引各地读书人前来求学，在教学、学术研究以及学校管理方面有许多建树和创意，在古代学校中具有一枝独秀的地位。
汉代独尊儒学，儒家经典就成为教育的主体内容。在儒学之外，古代还举办过多种专业学校。公元二世纪末，汉灵帝喜好辞藻文采，办起了世界上第一所学习辞赋、小说、绘画、书法的文艺专科学校──鸿都门学。出自皇帝个人喜好而举办的专业学校还有唐玄宗办的《老子》学和宋徽宗办的画学。天文学因为是确定历法所需，而且古人有观天象测人事的传统，所以历代都很重视，由专门机构司天监培养天文生。医学也是历代都有的，唐代在府、州两级均设立医学，还举办过兽医学。明清两代还办过培养翻译人才的外语学校，包括周边国家的各个语种。此类专业学校，都是培养在政府中专门机构供职的专业官吏，而不是可以自由择业的专业技术人员。数学、法律、军事等领域的专门人才培养，有的朝代设有专业学校，有的朝代则将其列入普通学校的学习内容。中国是世界上最早开设专业学校的国家，门类也最多。
在多民族聚居的中华大地上，曾出现过一些少数民族政权。早期的少数民族因文化发展程度低，尚无自己的学校教育，十六国时期的后秦以及后来的北魏，曾仿效中原汉族办学。到女真族建立金朝，首次为本民族子弟办起女真国子学和地方女真学，但学习内容仍是中原的儒学。蒙古族建立的元朝疆域空前辽阔，在维持传统的中央和地方官学的同时，举办了蒙古国子学和地方上的蒙古字学，传授蒙古语言文字，还举办了传授西域波斯语言文字的回回国子学。清朝的江山是以满族为主体，联合蒙古族和关外汉族（称为汉军）组成的八旗劲旅打下来的，建国后举办了各类八旗子弟学校，满语（或蒙古语）和骑射是八旗学校共同的基础课程，为的是维护本民族文化传统和尚武精神。
中国古代除了宫廷贵族学校和个别朝代（例如北宋）在地方办过小学外，官方一般不举办初等教育。有条件的家庭由家长为子弟作启蒙教育，而没有条件接受家庭教育的儿童，则可以到从事启蒙教育的私学（统称蒙学）学习。例如东汉著名思想家王充，就是从“书馆”开始他的学习生涯。古代的蒙学，有家族或宗族举办的族学，有乡里举办的乡学，也有教师自己开设的私塾。低层次的蒙学，教会儿童认识日常用字即可；高层次的蒙学，则要完成基本学业，达到可以报考官学当秀才的程度，由此开始科举之途。蒙学的教学注重多认、多看和多写，诗文都要求熟读到背诵流畅的程度。蒙学教师对学生要求严厉，盛行体罚。虽然有呆板苛刻的弊病，但在基本功和行为常规训练上有可取之处。