從65438年到0794年，他聽從父親的命令，進入耶拿大學學習法律。但他對法律不感興趣，除了考試之外，把業余時間都投入到了哲學、倫理學、數學和天文學的學習中。當時耶拿大學的哲學氛圍非常活躍，萊布尼茨、康德、費希特等哲學家的思想對他產生了重要影響。
1797年大學畢業後，赫爾巴特去了瑞士壹個地方長官的家裏當家庭教師，分別給三個8歲、10歲和14歲的男孩教古典語言、歷史和自然科學。主持人要求赫爾巴特每兩周提交壹份書面報告，介紹自己的工作計劃和學生的學習進度。赫爾巴特在教學和完成書面報告的過程中，仔細思考了自己的教學方法，探索了如何通過教學進行教育，如何通過培養興趣來掌握知識和培養品格。這些思想成為他後來教育理論體系的基本內容。這時，他認識了裴斯泰洛齊，成為裴斯泰洛齊教育思想的熱心傾聽者。在布爾多夫，赫爾巴特參觀了裴斯泰洛齊的因素教育和直觀教學實驗，了解到裴斯泰洛齊讓教育心理化的目標，給赫爾巴特留下了強烈的印象和啟示。同時，他也看到了裴斯泰洛齊的教育思想缺乏壹定的科學性和邏輯性。1802年，赫爾巴特通過答辯獲得哥廷根大學博士學位，在那裏教授哲學和教育學。赫爾巴特從1806進入創作黃金時期，先後完成並出版了《普通教育學》(1806)、《形而上學精要》(1808)、《實踐哲學導論》(1808)等重要著作。普通教育學是作者多年教學經驗和理論探討的總結。
1809赫爾巴特在康德之後被聘為哥尼斯堡大學哲學與教育學的講座教授。當時柯尼希斯堡大學要找壹個懂得教育，學術地位高的哲學家。根據這壹精神，威廉三世國王在聖旨中寫道，允許赫爾巴特在柯尼金根大學擔任哲學教授:“我特別允許哥廷根的赫爾巴特教授來我們的大學教授哲學。我批準了這項任命，因為赫爾巴特可以在遵循裴斯泰洛齊原則以改善我們的教育系統方面發揮有益的作用。”赫爾巴特對獲得這個期待已久的職位深感興奮和榮幸。他在這裏工作了24年。在他的演講中，他強調理論與實踐的結合，並呼籲建立壹個小型實驗學校。他說:“在我的工作中，教授教育學理論是我最喜歡的工作。但是，這項教學工作不僅是壹項學術性很強的工作，也是壹項示範和實習工作。我也想拓展這方面的經驗。所以我早就想挑選壹小群男生，每天自己教壹個小時，讓熟悉我的教學方法的年輕人來聽課，在我的指導下，壹步壹步繼續我已經開始的工作。這樣就可以循序漸進地培養老師，通過相互觀察和交流，逐步完善自己的方法。.....辦壹個我心目中那樣的小實驗學校，大概是為以後辦更大的學校做最好的準備。正如康德所說:先辦實驗學校，再辦普通學校。”他的建議在當時受到了很多人的稱贊。赫爾巴特在哥尼斯堡大學創辦了壹所實驗中學和教育研究所。他親自教授數學，發展了裴斯泰洛齊的小學教育方法，並將其應用於中學。1823年5月，他寫信給柏林，認為“他的方法至今已經形成”，“以期有朝壹日能在文法學校廣泛使用。”同時，他還參加了教師培訓。在此期間，他出版了《心理學教科書》(1816)、《科學心理學》(1824)、《心理學在教育學中的應用交流文集》等著作。
1833赫爾巴特申請回到哥廷根大學任教。晚年著有《教育學教學大綱》(1835)。在這本書裏，他再次修改了自己的教育原則，把普通教育學中闡述的教育理論和他的心理學理論更清晰地聯系起來。1840年完成心理學研究，1841年急性病去世，享年65歲。