歷史上壹般用“秩”來表示各級官員的地位，《武職》中的官階稱為“武秩”。早在我國春秋時期，武陟就出現了“元帥”、“將軍”、“上尉”等官名。三國時期對武官實行軍銜制度。早在公元前7世紀，外國就已經有了軍官軍銜晉升制度。在中世紀的西歐，所謂的公、侯、伯、子、滿、騎士等爵位，既是爵位，也是官銜。但是古代的官階和等級還是有區別的。官銜和職級只是指各級官員的級別和職級，官銜制度只是官員的等級制度；軍銜是包括士兵的軍銜的，軍銜制度是從最高指揮官到士兵的完整的軍銜制度。
軍銜制度的出現不是在古代軍事制度完備的中國，而是在15、16世紀的西歐，有著深刻的歷史原因。
首先，軍銜制度與資本主義的萌芽和常備軍的出現密切相關。
14世紀以前，西歐國家沒有常備軍。國王把土地封給各級封建主，各級封建主都有自己的武裝力量。國王打仗時收編封建主的私人武裝，組成國家軍隊，戰後回到自己的領地。這是壹種不專業的軍隊。隨著社會的發展和戰爭規模的擴大，這支不專業的貴族私軍日益暴露出諸多弊端。這樣的軍隊是即興的，幾乎是烏合之眾，戰鬥力差；國王只能召集直屬諸侯的軍隊，而不能調動下屬諸侯的軍隊，因此很難統壹指揮全國的軍隊；各級諸侯大力扶持自己的軍隊，形成封建割據，威脅皇權。國王要想改變這種局面，就必須建立由國王控制的常備軍。
14~15世紀，資本主義在壹些西歐國家萌芽。壹方面，新工商階級為了保護和發展貿易，需要建立常備軍，以支持強大的王權，打破封建割據狀態；另壹方面，工商階級為國王提供了稅收來源，也為常備軍的建立和使用創造了物質條件。法王查理七世於1445建立了壹支由法國人組成的常備傭兵部隊。到了15年底，出現了中士、中士的軍銜，到了16年中期，又出現了元帥、將軍、少校、上尉、少尉的軍銜。15年底西班牙出現上將、上校、少校軍銜。
其次，軍銜制度是資本主義社會關系中的“平等交換”和“平等權利”原則在軍事領域的反映。
1904年(光緒三十年)，清政府吸收外國軍銜制度的有益內容，制定了北洋新軍軍銜等級，這是中國軍銜制度的起源。辛亥革命後，經過南京臨時政府的改革，北洋政府於1912年8月頒布了《官兵軍銜表》，軍銜制度基本定型。主要稱謂壹直沿用到1949年國民黨政府垮臺。
按照不同的歷史時期，舊中國軍銜制度演變的主要情況簡述如下。
壹、清末北洋新軍的軍銜制度
1901年(光緒二十七年)，清廷任命袁世凱為直隸總督兼北洋大臣，負責訓練新軍。1903年間，清政府設立了訓練部，是訓練新軍的總機關。1904年，練兵部、兵部將奏朝廷，“仿八旗官員之令，采他國軍營之規”，制定新軍軍銜。從此，中國軍隊開始實行軍銜制度。
北洋新軍的軍銜制度把軍官分為兩類:壹類是軍官，即各級指揮官員；二是軍輔，即專業役官，並規定軍輔“不得管營。”軍官軍銜分為三等九等:壹等上官稱為正都統(從壹等起)，二等稱為副都統(從二等起)，三等稱為解都統(從二等起)；中級官員的第壹級稱為正式參與(第三級)，第二級稱為副職參與(第三級稱為助理參與(第四級)；二級軍官被稱為第壹級的鄭鈞軍事學院(吳征)，第二級的副軍事學院(吳征)，第三級的謝軍軍事學院(正氣)。之後，在第壹級高級軍官軍銜(正級)之上，增加了上將、將軍軍銜。軍士長沒有上級壹級軍銜，所以最高軍銜是上級二級軍銜。軍官低於領導軍銜，軍事助理低於副司令員軍銜。在頭銜之前，他們被標為兵種或專業軍種，如警察、步兵、馬匹、炮兵、工程和輜重隊、軍需官、軍醫和副指揮官等等。在二級軍官的第三級之下，還有額外的軍官和額外的軍事助理(第八級)作為連長。軍官以上軍銜為十壹級，軍士長軍銜為九級。新軍的士官分為上士(從八級)、中士(從九級)、下士(從九級)。士兵不包括在內，因為他們沒有成績好。
按照軍銜制度的要求，新軍對服役制度進行了改革。帽子用龍形珠子(龍是清代國徽)，珠子顏色按公務員頂色分類；帽壁飾金辮，肩章飾金條金星，以金條寬度和金條金星數量區分軍銜；衣領徽章區分軍官和士兵，武器和服務的顏色和符號。
第二，南京臨時政府時期的軍銜制度。
辛亥革命後，孫中山於6月在南京組織臨時政府，1912，僅持續三個月。在如此短的時間內，臨時政府根據同盟會的“革命策略”，對清末北洋新軍的軍銜制度進行了多次改革。
從南京臨時政府發布的《陸軍部陸軍臨時條令表》來看，他們取消了北洋新軍軍銜的稱謂和與公務員相比的等級，保留了三等、九等之分。上級軍官壹級改名將軍，二級改名左將軍，三級改名右將軍；第壹級中級官員改名為大，第二級為左，第三級為右。二等官改稱低級官，壹等官改稱大軍校，二等官改稱左軍校，三等官改稱右軍校。在初級軍官的第三個軍銜之下，還有壹個額外的軍官軍銜。中士和軍官是壹樣的。士兵分為六等軍銜，士官仍分為上士、中士、下士。士兵分為壹等兵、壹等兵、二等兵。此外，新軍第壹次統壹上級軍官上將、上將以上軍銜被取消，改大元帥、副元帥軍銜(後孫中山在廣州組織軍政府時，副元帥稱號改稱元帥)，這就是近代中國大元帥稱號的由來。
第三，北洋政府時期的軍銜制度
辛亥革命失敗後，北洋軍閥控制中央和地方長達十七年。這壹時期軍閥割據，但軍階制度基本上是北洋政府實行的。
1912年8月和10年6月，北洋政府先後頒布了《陸軍官兵軍銜表》和《海軍官兵軍銜表》，均采用國際通行的軍銜稱謂。軍官還是分為軍官和軍輔兩類。軍官軍銜仍分為三等九等。上級軍官改稱將官，壹級為上將，二級為中將，三級為少將；中層官員改稱校官，壹級為上校，二級為中校，三級為少校；初級軍官改名為初級軍官，壹級軍銜為上尉，二級軍銜為中尉，三級軍銜為少尉。多余的軍官被重新命名為準下級軍官。軍事輔助人員仍然沒有壹級軍銜(上將)，所以只有兩個軍銜等同於將官，三個軍銜等同於校官和初級軍官。士兵還是分六個等級，用原來的稱呼。在頭銜之前，仍然使用“軍官軍銜、兵種和專業服務”等字樣，如陸軍中將、海軍中將、步兵上校、騎兵上校、壹級軍需官和壹級軍醫。後來由於計量和軍法人員補充困難，在軍輔中增加了計量和軍法兩個職稱，分為三等八等。隨著軍銜制度的改革，軍官和士官肩章的符號和制服也相應地得到了改進。此後，中國的軍銜基本定型，主要稱謂壹直沿用到1949年國民黨政府垮臺。
1914年9月，北洋政府頒布了《軍內官輔補令》及其實施細則，具體規定軍內官輔補(指首次授予的下級官銜)、補補(指按現任職務授予的相當官銜)、升(指軍官軍銜晉升)和轉。補充的條件是，必須畢業於陸軍軍事學院(就讀於外國士官學校)或另壹所同等學力的軍校(就讀於外國軍校)，並“期滿後擔任學習軍官”，可根據專業直接“補充本科少尉或相當於少尉的軍官”。晉升和報酬的條件是:壹是必須已擔任規定年限的“實際軍職”(少尉兩年，上尉、少校、中校三年，上校四年，少將以上“無限年”)；二是要“在實際軍職範圍內有突出表現，案件已由管理主官詳細報告，經陸軍部核對相符”；第三，“年限已滿，上壹級軍職必須有空缺。”這些規定對提高軍官素質、保障軍官編制具有積極意義。
第四，國民黨軍隊的軍銜制度
(1)軍官的分類和軍銜等級的區分
1931年4月，國民黨政府頒布了《陸軍、空軍軍官、助理、士兵軍銜表》，軍官仍分為軍官和軍職助理兩類。軍官軍銜仍分三等九等，仍沿用北洋政府時期的稱謂。隨著空軍的發展，增加了航空軍官，這是我國第壹次設置空軍軍銜(實際佩戴為1933二月)。軍士長仍然沒有壹級軍銜，所以最高軍銜是中將。在軍士長的稱謂中，取消了原稱謂的內容，改為“軍銜加專業服務”的字樣。比如軍需官改名為軍需中將，壹級軍醫改名為軍醫上校，三級總藥師改名為總藥師，壹級獸醫改名為獸醫隊長等等。少尉以下仍有準尉級別，與準尉相同的軍官稱為準尉，準尉和準尉都“不計入官級”。士兵仍分六等，除了廢除掌工、鞍工、靴工等繁瑣名稱外，基本沿用原有稱謂。
1934年7月和1935年6月，國民黨政府先後重新發布了《陸海空軍軍官等級表》和《陸海空軍士兵等級表》。陸軍增設信號兵軍銜，空軍增設機械、軍需、軍醫軍銜，海軍士兵軍銜改為壹等、二等、三等，且在三等以下。至此，陸海空三軍各自形成了獨立的軍銜體系。另外，軍士長在北洋政府時期以專業職稱恢復稱號，壹直沿用到1949。
1935年3月，國民黨政府頒布了《將官任用實施條例》和《特別將官任用條例》，將將軍軍銜分為三級:壹級為二級上將，又稱三星將軍，在陸海空三軍中以“極大榮譽”授予將軍；二、壹級上將，又稱四星上將，授予陸海空三軍二級上將(相當於元帥稱號)。三是特級上將，又稱五星上將，授予“陸海空三軍最高軍事長官”(相當於大元帥的稱號)。經過上述充實和修改，國民黨軍隊的軍官軍銜為三等、十壹等，軍官軍銜為三等、八等。
1942年，國民黨政府修訂頒布《陸海空軍軍官名冊》和《陸海空軍士兵名冊》，陸軍增加戰車兵稱號；空軍還增加了電信、氣象預報等職稱，在士官以上增加了軍士長軍銜，分為壹、二、三等。海軍的軍銜沒有變。這樣，軍隊的隊伍得到了進壹步的提高。
1945年2月，國民黨政府重新頒布了《空軍軍官表》和《空軍士兵表》，其軍銜和軍銜與以前相同。空軍軍銜工資從下士到中將分為壹、二、三等，從二等兵到壹等兵分為兩等，稱為壹、二、三等中尉。之後，國民黨政府在1949年垮臺，等級沒有大的變化。