中國海洋大學圖書館(含嶗山、玉山)成立於1924年6月，首任館長是我國著名散文家、翻譯家梁實秋先生。截止1936年底，藏書已達87800冊，其中中文圖書65000冊，外文圖書22500冊。中外文期刊1028種，占545438+0000冊。抗日戰爭時期，學校被迫南遷。到山東大學1946+00年6月在青島復學時，原文獻只有5166種中文書刊和3398種外文書刊，損失了90%以上。
1949年6月，青島解放，中國古典文學家盧侃如教授任圖書管理員。1951年，華東大學與國立山東大學合並，成立新的山東大學，藏書20多萬冊。1958年山東大學奉命遷回濟南，1959年山東海洋大學成立，開啟了新的歷史發展階段，圖書館也迅速發展。