日本的《古誌》、《日誌》等古代歷史文獻中對天皇泡溫泉都有詳細的描述，可見日本人早就學會了使用溫泉。
在奈良時代，由於佛教的傳入，各地都修建了寺廟，其中僧侶的沐浴對溫泉的發展起到了很大的推動作用。當時人們已經發現了溫泉的治療作用。
平安時代《葉晚紀》對神奈川縣湯河源溫泉和長野縣神山田溫泉的記載表明，東部的溫泉也已被開發。當時的溫泉主要用於貴族和僧侶的休閑、治療和各種宗教活動，當時的溫泉與宗教有著很深的聯系。元來王朝創立鐮倉幕府，將首都從京都遷至鐮倉後，東海、東北、甲信的溫泉開始出現在歷史文獻中，生病的僧人紛紛前往各地的溫泉進行治療。
在室町時代，溫泉成為達官貴人和其他人的休閑娛樂場所，不對普通大眾開放。到了安圖陶山時期，溫泉已被廣泛用於治療傷兵，特別是在嘉州和忻州，武田信玄和真田幸村等戰國武將都有自己的“秘湯”。
到了近代江戶時代，由於醫學還不是很發達，溫泉的醫療作用受到了重視，從而得到了很大程度的發展。這壹時期，不僅將軍名流盛行溫泉療法，普通大眾也開始享受溫泉。