海森堡壹生在理論物理方面取得了重要成就，他最大的貢獻無疑是創立了矩陣力學。在此之前，他在流體力學、反常塞曼效應、分子模型和色散理論方面做了大量的研究工作。這些工作為他建立矩陣力學做了準備。尤其是與玻恩的合作，讓他感受到了建立新量子理論的緊迫性。
玻恩過去研究晶格動力學。1921年成為哥廷根大學理論物理學教授，開始研究原子理論。他讓學生學點量子物理，想和索末菲壹較高下。哥廷根著名數學家希爾伯特主張數學家和物理學家聯合起來研究物理。他和玻恩共同組織了壹次“物質結構”的研討會。此外，玻恩周圍還有各種討論班，如“初級班”、“晚級班”、“原子力學ⅰ寫作組”等，學術氛圍非常濃厚。為了繁榮科學，玻恩經常邀請世界各地的著名學者來參觀和講學。這大大拓寬了學生的視野。波恩對他的學生很友好，不拘禮節。課後，他經常和學生壹起散步、野餐和演奏音樂。玻恩在他主持的討論課上鼓勵提問和批評。因此，玻恩身邊經常聚集著壹大批才華橫溢的學生，海森堡就是其中之壹。
如果說海森堡在索末菲受過關於玻爾理論的嚴格訓練，那麽他在玻恩學到了更多關於玻爾的理論。當玻恩學派懷疑玻爾理論的正確性時，索末菲學派也認為，只要附上普朗克、玻爾、索末菲提出的量子條件，牛頓力學就可以解決原子領域的問題。海森堡認為，玻恩比玻爾更堅信應該有壹套完整的數學上統壹的量子理論，而不是徘徊和調和牛頓力學、量子條件和光量子假設。
1922年，玻恩和他的助手泡利深入討論了微擾論在原子理論中的應用，發展了微擾論能量表象的壹般方法。1923年，玻恩和海森堡合作將微擾理論應用於氦原子。雖然理論結果與實驗定性壹致，但在定量方面還有很大差距。這讓他們堅信，必須從根本上改變物理學的基礎。
1924年，在哥廷根的討論課上，玻恩強調，把量子理論的困難僅僅歸結於輻射和力學系統的相互作用是不正確的。他認為必須改革力學，用某種量子力學來代替，為理解原子現象提供基礎。玻恩甚至在1924年的壹篇論文中首次將預期的新理論稱為“量子力學”。這時，玻恩對他所期待的新理論有了壹些模糊的認識。海森堡找到了壹種數學方法來描述這個理論。
海森堡其實是Bos的助教，雖然他只是哥廷根的壹個學者。他與玻恩密切合作，試圖從符號力學模型中建立壹種新的力學。壹年後，他取得了大學教學資格，以壹篇題為《量子論形式定律對反常塞曼效應的改變》的論文成為了壹名無薪講師。同年9月，海森堡以洛克菲勒學者的身份來到丹麥哥本哈根，他的《矩陣力學》等創造性工作實際上在哥本哈根紮下了根。
海森堡在哥本哈根主要與荷蘭物理學家克拉姆壹起工作。克拉姆從1916開始擔任玻爾的助手，幫助玻爾在發展量子理論方面做了大量工作。他多才多藝。他不僅會說五種外語，還會拉大提琴。他下班後經常彈海森堡的鋼琴。並且在學習上對學生要求極其嚴格。1924年初，玻爾、克拉姆斯和斯萊特發表了壹個對後來影響很大的理論，也叫BKS理論，主要是基於當時來哥本哈根工作的美國物理學家斯萊特提出的想法。該理論的中心思想是給每個原子引入壹組虛振子，可以產生壹個虛輻射場，每個虛振子都有壹個躍遷頻率(即原子的躍遷頻率)。這就把不連續的原子過程和連續的輻射場聯系起來，這樣我們就可以利用對應原理，采用壹種類似於經典理論的方法來處理量子理論的色散問題，克拉姆斯就是用這種思想推導出了他的色散公式。
如果說克拉姆斯的色散理論實際上摧毀了電子軌道概念的基礎，那麽可以說海森堡更傾向於拋棄電子軌道模型，用正確的數學公式來表達玻爾的對應原理。他和克拉姆斯壹起用玻恩的方法研究色散，並合寫了壹篇論文《論原子對輻射的散射》。
海森堡於1925年4月回到哥廷根。他想在上述工作的基礎上進壹步解決氫原子的譜線強度問題，但在數學上遇到了很大的困難。於是，他轉而從根本上解決問題，即找到與經典運動方程相對應的氫原子中電子的邏輯壹致的運動方程。但是根據經典力學，這個方程應該描述電子在原子中運動的軌跡，但是原子太小了，電子軌道既看不見也摸不著，也就是說不可觀測。那麽，如何從實驗中檢驗方程的正確性呢？
海森堡得了花粉熱就很困惑。這是壹些有毒花粉引起的過敏，需要去海邊治療。他在北海的赫蘭島療養時，突然受到愛因斯坦相對論的啟發。愛因斯坦認為物體的絕對速度和兩個不同地方事件的絕對同時性的概念是沒有意義的，因為這些概念實際上是不可觀測的。所以海森堡認為既然玻爾原理中決定半徑和自轉周期的電子軌道是不可觀測的，那麽它也是沒有意義的。人們在實驗中能觀察到的只是譜線的頻率和強度。
因此，海森堡從玻爾的對應原理出發，“試圖建立壹個理論上的量子力學，它類似於經典力學，而在這個量子力學中，只出現了可觀測量之間的關系。”他在玻爾的頻率條件和克拉姆斯的色散理論中看到了這樣做的跡象。根據玻爾的頻率條件，原子中電子之間的相互作用可以用電子的特征振幅來表示。利用Krams的量子色散理論，從經典運動方程出發，可以得到壹個僅基於可觀測測量的量子力學運動方程。理論上，這個方程的解應該能給出原子系統完全確定的頻率和能量值，也能給出量子理論完全確定的躍遷幾率。
經過幾天的緊張計算，他用得到的方程組處理了壹個相對簡單的非諧振子量子力學系統和電子繞核運動的情況，兩次都獲得了成功。
當他終於算完的時候，已經是淩晨三點多了。這時，他很興奮，也很困。他跑出房間，爬上海邊的壹座巖塔，直到日出。他後來回憶當時的心情說:“壹開始，我深感意外。我覺得自己透過原始現象的表面在看壹個奇妙的內心世界，對大自然如此慷慨的豐富的數學結構讓我眼花繚亂。”
海森堡在赫蘭島上住了壹個多星期，終於寫出了《關於運動學和動力學的量子理論的重新解釋》壹文。他發現量子力學量和經典力學量的區別在於量子力學不遵守壹般乘法的交換定律，它們不是互易的，也就是AB≠BA。從他的方程組出發，自然可以得到滿足量子條件的解，而不必像玻爾那樣附加幾個假設。他知道“這個非常明顯但復雜的物理問題只能通過更徹底的數學方法研究來解決。”但是，他的理論在數學處理上還處於初級階段，只能應用於壹些簡單的例子。因此，他對自己的論文沒有十足的把握，猶豫著要不要馬上送去發表。
經過反復思考，海森堡在7月9日把完成的論文寄給了他最嚴格的批評者泡利，並說:“我冒昧地把我的手稿直接寄給妳，因為我相信它包含了壹些真正的物理學，至少在批判或否定方面。同時，我很抱歉，因為我必須要求妳在兩到三天內把手稿還給我。我必須在我呆在這裏的最後幾天完成它，或者燒了它。”
泡利熱情支持海森堡的理論，說:“我向海森堡勇敢的假設致敬。”正是因為泡利的鼓勵和支持，海森堡才下定決心要把論文送給他為之而生的老師審閱。
在看到海森堡的論文後，玻恩很快意識到他的學生工作的重大意義。此時因為海森堡又去了哥本哈根，壹方面向《物理雜誌》推薦海森堡的標誌性論文發表，另壹方面與學生約爾丹合作，試圖將海森堡的思想進壹步發展為數學中的量子力學系統理論。
經過壹周的苦思冥想，玻恩突然想到，如果玻爾把每個穩態能級橫寫豎寫，就會得到壹個矩陣。其中對角線位置對應於狀態，非對角線位置對應於轉換。那麽，海森堡的可觀測量就可以用這些數組來表示，而這些數組只是矩陣！這個矩陣的運算方法和海森堡的算法是壹樣的。真的是“找不到地方拿，不用努力就能拿到”。數學家們早已為物理學準備好了數學工具，只看哪個物理學家能先到。長期在數學之都工作並對數學深感興趣的玻恩會收獲勝利的果實，並非偶然。
玻恩對這壹發現非常興奮，他立即和約爾丹壹起投入到緊張的計算中。只花了幾天時間就寫了壹篇“關於量子力學”的論文。在這篇論文中，他們闡述了矩陣運算規則，應用對應原理，從經典的哈密頓正則方程出發，將矩陣形式應用於海森堡理論，得到了與海森堡量子條件等價的矩陣方程。根據這個方程，可以進壹步導出能量守恒定律和玻爾頻率法則，並成功地應用於諧振子和非諧振子的量子力學系統。
次年2月，他們與海森堡合作，以三人名義共同發表了著名文章《關於量子力學ⅱ》，將按海森堡方式發展的量子力學推廣到任意多個自由度的系統，完成了對非簡單系統和壹大類簡單系統的微擾理論，導出了動量和角動量守恒定律、選擇定則和強度公式。最後，將該理論應用於黑體空腔本征振動的統計問題。
在這篇論文中，海森堡的原始思想在矩陣形式上得到了極大的發展，最終形成了矩陣形式的量子力學的完整體系。它是壹種基於微觀物體的粒子圖像的新的機械系統。因為它使用了矩陣數學，所以也被稱為矩陣力學。
不久，泡利首先將這種新的力學應用於氫原子的光譜，計算出氫原子的穩態能量值。結果與玻爾的結論完全壹致，從而證實了新理論的正確性。然後，物理學家用量子力學處理了過去很多令人費解的原子問題，都取得了成功。結果，哥廷根的勝利很快在物理學界傳開了。愛因斯坦幽默地說:“海森堡生了大量的蛋。”劍橋、柏林、哥本哈根都邀請海森堡來講他的新量子力學。
晚年，海森堡在量子力學的道路上不斷探索，取得了豐碩的成果。他的“測不準關系”成為量子力學的重要原理之壹，1932年獲得諾貝爾物理學獎。海森堡被公認為量子力學的奠基人之壹，因為他的巨大貢獻。
矩陣力學被認為是用定量關系代替定性對應原理的成功嘗試。在建立這壹理論的過程中，海森堡依靠了壹個重要的方法論原則，即可觀測性原則。這個原理要求在理論上要拋棄那些實際上不可觀測的量，直接采用可觀測的量。
海森堡有幸師從壹些壹流的物理學家，如索末菲、玻恩和玻爾。他後來回憶說，他從索末菲那裏學到了物理，從玻恩那裏學到了數學，從玻爾那裏學到了哲學。但他從不盲從。他敢於懷疑和批評。他經常向老師提出尖銳的問題，並與老師進行深刻的討論。他的名言是:“科學根植於討論。”他在解決新的物理問題時敢於創新。正是從這種科學探索精神出發，他創立了矩陣力學，為科學做出了巨大貢獻。他曾說:“在每壹個新的認識階段，我們都應該永遠以哥倫布為榜樣。他敢於離開自己熟悉的世界，帶著近乎狂熱的希望，在大洋彼岸發現了新大陸。”