出生於德國奧登堡。他的童年教育得益於他的母親和導師，後來他於1794進入了拉丁學校和耶拿大學。在學校，他學習了康德和費希特的哲學著作。當時，古希臘哲學家巴門尼德(約公元前6世紀)剛剛發表了他的理論，即所有的存在都是統壹的，不變的，這對他影響很大。1797年初，他去瑞士做壹個貴族的家教，還沒讀完大學課程；這個職位激起了他對教育的興趣。他在1799年拜訪了伯格多夫，結識了裴斯泰洛齊，對他印象深刻，但他並不接受裴斯泰洛齊觀點中的民主傾向。1799後，他停下來住在朋友家專攻哲學；1802年，他在哥廷根大學獲得博士學位，之後在那裏任教。1809年受哥尼斯堡大學邀請，繼康德之後教授哲學和教育學，創辦教育學院，旨在培養教師，應用其教育原理。1833年回到哥廷根大學任教，1841年去世。
他在兩所大學任教期間出版了主要著作。教育著作有:(1)《論世界之美作為教育主體作品的揭示》(1804)，這是壹種嚴格的演繹方式，從教育目的出發，討論其假設，通過假設達到目的，註重倫理道德的發揮。(2)普通教育學(1806)，分為管理、教學、訓練三個部分，展示了他的主要教育思想，側重於心理學方面。(3)《教育學講義大綱》(1835)是對普通教育學的補充，它進壹步發展了前壹本書中心理學的基本思想。其他與教育相關的著作還有《裴斯泰洛齊的直觀與初步思想》(1802)、《公共合作下的教育》(65438)。學校與生活的關系(1818)、心理學應用於教育學的幾封信(1831)、理想主義與教育的關系(1831)等。
赫爾巴特是近代第壹個試圖將教育學確立為壹門科學的資產階級教育家。他想把教育目的論建立在倫理學的基礎上，把教育方法論建立在心理學的基礎上。由於他的唯心主義、形而上學的哲學和心理學觀點，他未能實現建立科學教育學的目標。他用心理學論證了教育教育的原理，但在這裏他誇大了知識在情感和意誌中的決定性作用。基於他的“多元利益”理論，他為中小學規定了廣泛的教學內容，但他的保守主義表現在他優先考慮宗教和古典人文學科。他分析了教學過程，並試圖在此基礎上建立自己的教學理論體系。19世紀中期以後，他的教育理論在德國開始流行，並逐漸影響到歐美國家。這主要是因為他的保守政治態度迎合了1848革命後德國統治階級的口腹之欲。因為他的教育教育思想和他的德育體系符合當時統治階級加強對青年學生思想控制的要求。第二個原因是:當時中等教育正在發展；以前教育學是面向小學的，赫爾巴特的教育學是中小學都適用的。老師們從他的弟子們炮制的“五段教學法”中找到了處理日常教學工作的現成藥方。這造成了教學中嚴重的形式主義；但另壹方面，它也促進了對課堂教學方式方法的研究。