1915年，在西山腰部開辟了壹塊空地，修建了日本人的“青島神社”。因其建築與中國寺廟相似，故俗稱“日本廟”或“廟山”。廣場西至遼寧路長約200米，廣場寬14米，共4段，109臺階至山頂。日本“中華神社”，外觀壯觀，櫻花繁茂，景色優美，被稱為“鶴山荊靈”，是1939評定的“青島鄉二十四景”之壹。1922年，北洋政府接管青島，正式命名為“水書山”。抗日戰爭勝利後，為了紀念每年在七七事變和抗日戰爭中犧牲的中國軍人，當局將“青島神社”改名為“烈士神社”。這壹舉動沒有被青島人接受。後改為煙臺國華中學流放教學樓。建國前，山上的樹木大多被毀，綠地荒蕪。50年代，是市北中學的校舍。
中華人民共和國成立後，經過幾次有組織的大規模植樹造林，植被逐漸恢復。65438至0956，市政府投資在公園內修路，清除枯死樹木，補植黑松、雪松，修建荷花池，恢復綠地建公園。同年命名為“水書山公園”。1957遼寧路門口建起了石門樓，陸續建起了栽培大棚。“文革”期間，園內秩序混亂，管理困難，植物被毀。上世紀70年代，西南角修建了下沈的盆形露天旱冰場和梯形看臺，可同時容納數千人，並經常舉行文藝演出。商務部門在西部旅遊區搭棚建房，召開物資交流會(1980在市政府幹預下退出)。1972年，青島電視臺在西峰山頂修建了電視發射塔及附屬建築。1982至1983在市婦聯和市兒童基金會籌備委員會的支持下，成立了兒童公園籌備辦公室，動員社會各界籌集資金，增加了部分兒童活動設施，建成了12生肖雕塑群。
1984年，市政府決定封山三年，重新規劃建設以兒童青少年活動為主題，列為10山地公園之壹，同年3月開工建設。市商業局設計室和市建築安裝總公司設計室根據市園林局的規劃方案進行設計。由青島海關、青島鐵路分局、山東商檢局、山東海事局、國家海洋局北海分局、青島港管理局、市漁業局、市北區政府共同建設。新建大型兒童活動設施、大型多彩音樂控制噴泉、“園丁”雕塑、兒童閱覽室、觀景亭。鋪設半環山地車道，觀光路，修建圍欄。青島警備區和市北區政府開展義務植樹，種植樹木和灌木26，5438+0，000株。園區建設總投資234.8萬元。其中，上述承包商籌資203.9萬元，政府投資30.9萬元。7月6日1986被市政府命名為“水水山兒童公園”，同年10月建成開放。
1998，市北區政府投資80萬在遼寧路修建仿古園門，大門內雪松路南側清理雜亂堆積物，種植草坪5000平方米。2000年，市政府投資470萬元對圓山公園進行綜合治理，修繕園林建築和基礎設施建設。在山周圍修建防火通道，在公園內鋪設場地，重建雪松路隧道基石。種植黑松等樹木9376株，花灌木26400株；為了防止水土流失，在壹些山坡上種植了6.3萬平方米的草坪。2005年遼寧路花園大門拆除，改擴建前區，公園免費開放。
2005年公園綠線劃定為182300平方米。
水水山公園的名字定為1956。1984 12，青島市環境衛生和園林綠化管理局委員會將其更名為“青島兒童公園”；1985年3月，更名為“青島市兒童公園管理處”，定為副處級單位；1986年7月，被青島市人民政府命名為“青島市水水山兒童公園”。