太乙山腳下有壹條南北向的斷裂帶，沿這條線由於地殼過度沈降形成壹個低窪帶。大約11000年前，由於地球進入晚冰期，氣候變暖，海水上漲，濟寧西部和整個華北平原大部分淹沒在汪洋大海中。
直到大約7500年前，海水開始退去，在裸露的大平原中間形成了壹個大湖，古代稱之為小野澤。小野澤東壹直在嘉祥城附近至今，北至王楠、梁山、鄆城，南至巨野縣，即“百裏方圓”。
當時西方的很多河流都流入小野澤，包括古代壹條比較大的河流叫吉水。吉水發源於開封、商丘，壹般沿黃河南岸向北流經定陶、菏澤，流入奧諾澤。這條河在梁山附近出現後，流經固戍城，轉向東北，經東阿、濟南入海。
文水發源於泰國萊山，流經泰安、東平，在涼山東北與古吉水匯合，東與吉水壹起入海。泗水在東南流經路橋、南陽、魚臺，轉向南，經胡靈、沛縣東、柳城、徐州，再南下淮陰與準河匯合，向東入海。
在歷史記載的幾千年裏，這兩條河流有著非常穩定的流量和豐富的水資源，這使得我們的祖先在很久以前就可以從事水上活動。司馬遷《史記·龔宇本紀》記載“浮於霽水”(船從古霽水到北方雒河再到黃河)，“浮於淮泗”，“浮於溫泗”，也就是說，在龔宇時代，就已經是與河流相連的航運水網了。
春秋時期，著名的吳王夫差開渠(即連接長江和淮河的江淮運河)。應魯國要求，65438+萬大軍從水溝乘船到淮陰古泗水水道，壹路北上，在萊蕪艾陵大敗齊國。吳王有了這個經驗，第二年就開了合水河(即魚臺到定陶的運河)，再次率軍經固始水到魚臺，再沿合水河到定陶，再轉到今天商丘西南“黃池”的吉谷上遊，與晉國爭奪中原霸權。
秦漢時期政治中心西移，以上河流都成為向關中進貢的重要水路。隋唐時期，楊迪開通了濟渠，將南北運河移至開封，濟寧處於次要地位。
在此期間，由於黃河泛濫，西部地區的地貌發生了變化。自漢元光三年(公元前132年)黃河在張子(今河南濮陽西南)決口後，菏澤周邊地面普遍淤塞，小野澤大部分淤塞，原有水系完全淤塞，被打亂。
北宋時期，只剩下小野澤東北角的兩山坡和王楠附近的毛都湖。當時有壹條河是人工開鑿的(因河寬50尺而得名)，在開封府經過、曹吉、雲後進入水下段，以此向京都進貢(年水運量約60萬石)。
北宋末年，黃河奪淮，張武河全部淤塞。同時，梁山泊和毛都甸湖淤塞，只剩下梁山泊東北角的壹個鞍山凹陷。發源於東部山區的兩條大河泗水和文水，變化不大。文水仍在東平附近大轉彎，沿吉谷水下段向東北流動(集集水下段改名為大清河，集水之名不再出現)。泗水仍按原路線流動，但宋末以後，黃河從徐州奪取泗水，進入淮河，於是古泗水改在徐州以西，流入黃河。
雖然這兩條河流的下遊都不同程度地受到黃河淤積的影響，但這條天然水道有“大江截流，水漲船高”的優勢，所以頑強地維持著通航。
元朝定都北京後，在南北大運河重開時改道山東，使濟寧的地理水系和自然面貌發生了壹系列新的變化。