书院作为一种新的教育制度，产生以来就显示出它的生命力，尽管由于政治斗争的关系，经常遭到统治者的禁毁，但却始终没有彻底废除掉，一直延续到清末。
书院起源于唐末五代而盛于两宋。书院的设置，初期私人成立的较多，有的是私立官助，也有地方政府设立的，后来逐渐由中央令地方统一设立管理。但最能反映书院实质的还是私人或地方设立的。
北宋初期书院较盛，末期则逐渐衰落，南宋时再度兴盛，朱熹恢复振兴白鹿洞书院是一件有重大影响的事件。其时书院甚多，仅《续文献通考》所载就有二十余处。最著名的有四大书院：即岳麓、白鹿洞、丽泽、象山四处。南宋以后的书院有两个显著的特点，一是书院与理学家讲学发生密切关系，如白鹿洞是朱熹讲学之所，而象山则是陆九渊授徒之地。二是若干书院不仅讲学，亦是纪念理学大师的所在。如建阳的考亭书院是纪念朱熹的，丹徒的濂溪书院是纪念周敦颐的。
元代书院亦颇兴盛。南宋的一些学者，入元后不仕，退而建书院讲学，元统治者也千方百计地利用并控制书院。至元二十八年(公元1292年)，元世祖忽必烈下诏：“先儒过化之地，名贤经行之所，好事之家输钱粟瞻学者，并立为书院。”(《续文献通考•学校考》)并由政府直接向书院委派山长。元代书院数量虽多但著名者却很少。
明代初年书院并不发达。大约在正德年间(十六世纪初)书院才逐渐兴盛起来。明代书院的发展，受到王守仁、湛若水等大师讲学的大力推动。他们不仅自己建书院，而且其徒为扩大自己学派的影响也四下设书院，从游者殆遍天下。各学派都重视自己的学说和主张，因与朝廷上统治阶级内部的政治斗争有牵连而遭到四次毁废。这在中国书院史上是重大的历史事件，尤其是最后一次，东林党人与当权太监魏忠贤的斗争，在中国历史上曾产生了深远影响。
清初，满族上层统治者为了加强思想统治，防止士人议论朝政，便下诏令：“不许别创书院，群聚结党，及号召游食之徒，空谈废业。”严禁书院的活动。直到康熙六十一年(公元1722年)，在清政权已比较巩固，社会秩序较为稳定的情况下，才对书院实行了开放政策。清代书院大体有四种类型：一是考课式，以学习八股文、应科举考试为主；二是学习古文义法的书院，如姚鼐的钟山书院；三是以考据经史、整理古籍为主的书院；四是以经世致用为主的书院。其后，书院日益衰败，至清末则逐渐改变为新式学堂。