秦漢時期，尚書是少府的官員，主要負責起草文書，為皇室傳達命令。少府是為皇室管理內部藏書和生活事務的機構，所以尚書屬於內官，地位較低。
漢武帝時代，為了削弱宰相等外臣的權力，漢武帝設立內朝鞏固皇權，大臣們受到重用，負責辦理天下章法，起草詔令，執行政令等。，成為朝廷的中心之壹。
後來朝廷政務逐漸繁忙，大臣們的權力與日俱增。於是，他們開始對曹植的事務進行劃分，設置了五個曹尚書的大臣，每個大臣都以尚書令為首，負責政令的執行。但由於尚書令仍屬於內廷官員，權力大，等級低，自西漢末年起，尚書令常被三將軍、將軍所記。
到了魏晉時期，尚書領、尚書等官職已經完全脫離了內廷，成為朝廷中的官職，商也改名為尚書省，權力越來越大。曹魏另設中書省，與尚書省分權。西晉沿襲魏制，尚書省負責政務，另設中書、門下兩省，以分掌大權。但在這壹時期，仍有不少大臣、大臣記載大臣歷史的事例，如蜀漢朝宰相諸葛亮。
南北朝時期，三省制度逐漸形成。北魏孝文帝改革，仿照魏晉，建立三省制，以尚書省為總領，尚書令為從，曹操、尚書為從。同時皇權與之超脫，制度延至隋唐。
唐宋時期，三省六布制度逐漸完善。尚書省的最高長官是尚書令，下設官、戶、禮、兵、刑、工六個部門，每個部門都讓尚書掌管事務。但尚書領的位置經常空著，由副尚書領仆管理。然後中書省和廈門省合並為中書門，三省巡撫壹起辦公，同為宰相。後來又有了同中書門、同中書門、參政等職，以此來劃分三省吾身的權力。
元朝有過短暫的任命壹個管書的大臣，和宰相壹樣，但是任命後沒多久。明朝初年，朱元璋棄丞相而置六部尚書，掌管朝政，直接向皇帝負責。清朝延續明制，仍有六部。最高官至尚書，副為侍郎，滿漢各壹人。此外，清朝還用壹個大學士來管理該部，這個大學士被稱為掌管該部的大學士，與宰相地位相當，權力很大。
總的來說，尚書壹職經歷了從皇家侍從官職到朝廷政務官職的轉變，實質上反映了皇權逐漸擴張以削弱和取代相對權力的過程。