1992年3月，以翟永成市長為首的市政府最終決定拆除老火車站，並於7月8: 05正式拆除，1992。當時這件事在全國學術界都是罵聲壹片，痛斥當局“沒教養”，現在是特站。
1992被謝玉堂副市長評價為“看到它就讓人想起中國被壓迫的歷史，高聳的綠色穹頂……就像是希特勒軍隊的頭盔”並下令拆除。該建築被拆除時，遭到市民和學者的強烈反對。德國方面要求回收大鐘，未果。2008年6月，在濟南鐵路局的壹個倉庫裏發現了原鐘。與此同時，壹直被視為殖民象征的日本憲兵司令部大樓、德國電報大樓、老瑞蚨祥店甚至萬竹公園前花園都被拆除。
為滿足社會經濟發展和旅客服務的需要，自2012年7月26日起，該站對既有車站進行了有史以來最大規模的改造。目前，車站進站大廳、壹層高鐵候車室、高架候車室、地下通道、出站口、停靠站大廳已建成並投入使用。售票綜合樓和主樓的立面改造將在2013春運結束後進行，整個改造施工計劃在2013年底完成。接觸線
2011 5月16日淩晨起，濟南火車站將再次施工，100多趟列車受影響調整。據介紹，濟南火車站主要是為建設東咽喉地區。建設完成後，青島、北京、上海的列車將在濟南匯合，實現高鐵與普通鐵路的對接。3月，中鐵十局800余人奮戰十余天，成功將京滬高鐵接入濟南站，標誌著京滬高鐵濟南西站與相關工程正式接軌。據介紹，當時的施工區域是濟南站以西至京滬高鐵西站之間的區域，是列車客車準備、機車準備、正線運營等密集疏解區域，被稱為濟南站咽喉區域施工。
5月16日起，濟南火車站將再次進行施工，主要位於濟南火車站東區，又稱東咽喉區施工。記者從鐵路部門了解到，改造工程是對既有線進行閉塞改造，主要是撥接鐵路道岔。“建設完成後，青島、北京、上海等方向的列車將可以通過濟南火車站連接高鐵和普通鐵路。”鐵路部門壹名工作人員介紹。
記者了解到，京滬線和吉焦客運專線在濟南交匯。壹般青島到北京上海的列車都是在濟南沿吉焦客運專線換乘京滬線，這些列車基本都經過濟南火車站或者濟南東站。京滬高鐵通車後，青島、北京、上海間的動車組列車將通過濟南火車站與普通鐵路溝通。
根據鐵道部要求，京滬高鐵將開行時速300公裏和250公裏列車。這意味著，除了高鐵列車，壹些普通動車組列車也將在京滬高鐵上運行。
高速子彈頭列車
京滬高鐵6月底投入運營後，濟南火車站(含濟南東站)開往北京的11次列車、開往上海的1次列車將全部取消，京滬鐵路既有線動車組全部移至京滬高鐵，僅保留136對普通列車。根據運行圖，濟南火車站不再安排首趟進京列車，熟悉的進京D36、D38、D42次列車取消或更名。濟南站只保留青島至北京的9對通過動車組。
同時，濟南東站所有動車組也將取消。青島至北京方向的動車組不再停靠該站，全部移至濟南站。但濟南至青島間的所有動車組仍以濟南站為始末站。
京滬高鐵吉焦線青島方向的列車將停靠濟南站，而不是濟南西站。濟南火車站雖然沒有北京始發的動車組，但是有4對G字頭列車開往上海虹橋。
京滬高鐵開通後，濟南站雖然停運了北京始發動車組4列，但通過動車組擴大到16節。而且還有時速300公裏的高鐵，省會東部的市民不用去濟南西站也能品嘗到京滬高鐵。
取消4列始發動車組後，濟南站通過北京的動車組將從7列增加到12列，這不僅是車次的增加，也是動車組編組的大幅擴充。
濟南至北京的動車組均為CRH5型，8車短編組，高峰客流將重聯。京滬高鐵開通後，青島至北京的大部分列車將改為16車廂的新型CRH380BL列車，旅客發送能力將大幅提高，濟南站的座位預留量也將大幅增加。據了解，京滬高鐵共投入列車103列，只有33列8節短途列車，其余70列16節車廂。
同時，濟南站還將首次迎來3列G字頭高速動車組進京，進京時間將由3小時10分鐘大幅縮短至1小時45分鐘。
京滬高鐵開通後，濟南至青島間共有32對動車組，其中濟南站始發6對，通過車26對(其中濟南西至青島3對)。兩地之間將實現動車公交化。這意味著兩地之間的動車數量將不減反增。
濟南火車站雖然不是京滬高鐵沿線車站，不能和京滬高鐵直接接觸，但可以通過聯絡線連接。3月起，濟南火車站東、西咽喉改造。這使得吉焦客運專線和濟南火車站可以通過姬胡連接線連接到京滬高鐵。也就是說，從青島沿吉焦客運專線開往北京、上海的列車將停靠濟南火車站，然後通過聯絡線進入京滬高鐵，實現高鐵與普通鐵路的銜接。