事實上，雖然建於北宋，但嶽麓書院的雛形始於唐代。和尚芷玄和其他人在嶽麓山的蟒蛇洞附近建立了壹個類似的書院，廬山寺廟的紀念碑壹直保留到今天。到了宋太宗時期，潭州(今長沙)太守朱東沿襲舊派創辦書院，初名嶽麓山書院，後改名嶽麓書院。北宋第八年(公元1015)，石舟出任嶽麓書院院長。
他接手後，學院學生人數達到數百人，在當時是非常大的規模。石舟受到皇帝的親自接見，還被禁止在國子監做官。後來，宋真宗被他的精神所感動，賜給他鞍馬和《九經》，以及壹塊皇家牌匾——嶽麓書院。不過這個牌匾沒有流傳下來，現在的牌匾是明朝的。
在很長壹段時間裏，湖南對於唐朝的統治者來說類似於壹片蠻夷之地，但到了宋代，嶽麓書院的興起促進了這裏的文化發展。古代人張騫，生活在宋朝。在擔任嶽麓書院負責人期間，他將嶽麓書院打造成湖湘學派的根據地，湖湘學派在南宋時名揚天下。
他可能不為現代人所熟悉，但他的好朋友卻為大家所熟悉，那就是朱。朱曾在這裏講學，還舉辦過著名的“朱講座”。朱兩次來到嶽麓書院，第壹次是在大路三年(公元1167)，第二次是在五年(公元1194)。朱以湖南地方長官的身份管理嶽麓書院。可以說，《朱講學》使湖湘文化和湖湘學派達到了頂峰。與中國其他文化相比，經世思想傳統在湖湘文化中尤為突出。