克格勃前身為捷爾任斯基創立的“契卡（Cheka 是全俄肅反特別委員會的俄文簡稱 All-Russian Extraordinary Commission。全名為全俄肅清反革命和消除怠工特別委員會: All-Russian Extraordinary Commission to Combat Counter-Revolution and Sabotage(Всероссийская чрезвычайная комиссия по борьбе с контрреволюциейи саботажем), 在 1918 年改名為: All-Russian Extraordinary Commission to Combat Counter-Revolution, Profiteering and Power Abuse(Всероссийская чрезвычайная комиссия по борьбе с контрреволюцией, спекуляцией и преступлениям по должности).）”。克格勃的職權領域大致與美國中央情報局和聯邦調查局的反間諜部門相當。在1930年代，由亞戈達和葉若夫領導的內務人民委員部成為“大清洗”的工具。 冷戰期間，“克格勃”的職能過大， 涉及國內所有領域， 淩駕於蘇聯黨和政府之上，在國際上也成為紅色恐怖的代名詞。
克格勃名稱變更史
1917年12月 全俄肅反委員會（契卡Cheka ( 俄語為ЧК ））
1922年2 月 國家政治保衛局
1923年7 月 國家政治保衛總局
1934年7 月 國家安全總局
1941年2 月 國家安全人民委員部
1941年7 月 國家安全總局
1943年4 月 國家安全人民委員部
1946年3 月 國家安全部
1947年10月至1951年11月 國家安全部（對外情報機構歸情報委員會管轄）
1953年3 月 內務部
1954年3 月 國家安全委員會（克格勃）
克格勃歷任領導
費利克斯·埃德蒙多維奇·捷爾任斯基 1917－1926
Feliks Edmundovich Dzerzhinski
(Belarusian language Фел?ск Эдмундав?ч Дзяржынск?,
Polish: Feliks Dzier?yński,
Russian: Феликс Эдмундович Дзержинский )
維亞切斯拉夫·魯道福維奇·緬任斯基 1926－1934
亨裏希·格裏戈裏耶維奇·亞戈達 1934－1936
尼古拉·伊萬諾維奇·葉若夫 1936－1938
拉夫連季·帕夫洛維奇·貝利亞 1938－1941
弗謝沃洛德·尼古拉耶維奇·梅爾庫羅夫 1941（2－7月）
拉夫連季·帕夫洛維奇·貝利亞 1941－1943
弗謝沃洛德·尼古拉耶維奇·梅爾庫羅夫 1943－1946
維克托·謝苗諾維奇·阿巴庫莫夫 1946－1951
謝爾蓋·伊萬諾維奇·奧戈利佐夫 1951（8－12月）
謝苗·傑尼索維奇·伊格納季耶夫 1951－1953
拉夫連季·帕夫洛維奇·貝利亞 1953（3－6月）
謝爾蓋·尼基福羅維奇·科魯格洛夫 1953－1954
伊萬·亞歷山德羅維奇·謝羅夫 1954－1958
亞歷山大·尼古拉耶維奇·謝列平 1958－1961
弗拉基米爾·葉菲莫維奇·謝米恰斯內 1961—1967
尤裏佛拉基米羅維奇·安德羅波夫 1967－1982
維塔利·瓦西裏耶維奇·費多爾丘克 1982（5－12月）
維克托·米哈伊洛維奇·切布裏科夫 1982－1988
弗拉基米爾·亞歷山德羅維奇·克留奇科夫 1988－1991
3 克格勃第壹總局（對外情報總局）歷任領導 米哈伊爾·阿布拉莫維奇·特裏利瑟爾 1921－1929
阿爾圖爾·赫裏斯季安諾維奇·阿爾圖佐夫 1929—1934
阿布拉姆·阿羅諾維奇·斯盧茨基 1934－1938
米哈伊爾·施皮格爾格拉斯 1938（2－7月）
弗拉基米爾·格奧爾吉耶維奇·傑卡諾佐夫 1938－1940
帕維爾·米哈伊洛維奇·菲京 1940－1946
彼得·瓦西裏耶維奇·費多托夫 1946－1949
謝爾蓋·羅曼諾維奇·薩夫琴科 1949－1953
瓦西裏·斯捷潘諾維奇·裏亞斯諾伊 1953（3－6月）
亞裏山大·謝苗諾維奇·帕紐什金 1953－1956
亞裏山大·米哈伊洛維奇·薩哈羅夫斯基 1956－1971
費奧多爾康斯坦丁諾維奇·莫爾京 1971－1974
弗拉基米爾·亞歷山德羅維奇·克留奇科夫 1974—1988
列昂尼德·弗拉基米羅維奇·舍巴爾申1988