Подготовка к реорганизации органов ВЧК началась в конце 1921 года 1 декабря В. И. Ленин набросал проект постановления политбюро ЦК РКП (б) о ВЧК, в котором предусматривались «серьёзные умягчения»: сужению её компетенции и права ареста, ограничение сроков расследования дел одним месяцем с рассмотрением их судами, а также изменение названия комиссии. В тот же день проект рассмотрело политбюро и поручило его исполнение комиссии в составе Л. Б. Каменева, Д. И. Курского и Ф. Э. Дзержинского. Состоявшаяся в том же месяце конференция РКП (б) также высказалась за сужение круга обязанностей ВЧК и её реорганизацию.
В конце декабря на IX Всероссийском съезде Советов Ленин дал высокую оценку деятельности ВЧК по защите революции и предложил ограничить её функции задачами политическими при всемерном укреплении законности. Высказанные идеи нашли отражение в постановлении съезда о пересмотре принятого в октябре 1918 года «Положении ВЦИК о Всероссийской и местных чрезвычайных комиссиях».
В январе вопрос вновь рассмотрело политбюро ЦК РКП (б) и 6 февраля 1922 года ВЦИК издал постановление «Об упразднении Всероссийской чрезвычайной комиссии и о правиле производства обысков, выемок и арестов». ВЧК и её подразделения на местах упразднялись. Их задачи передавались Государственному политическому управлению (ГПУ) при наркомате внутренних дел РСФСР. ГПУ поручалась борьба со шпионажем, бандитизмом, подавление вооружённых выступлений, охрана транспортных коммуникаций и границ республики, расследование всех противогосударственных выступлений. Документ оговаривал условия производства обысков и арестов, передачи расследованных дел в определённые сроки для решения в исключительно судебном порядке ревтрибуналами и народными судами и контроля за деятельностью ГПУ со стороны Наркомата юстиции.
ВЧК, созданная как чрезвычайный орган защиты, выполнила поставленные перед ней задачи и заложила основы дальнейшей деятельности органы госбезопасности. Системы «военного коммунизма» и «чрезвычайщины» показали свою экономическую и политическую несостоятельность и грозили крахом режиму. Переход к новой политике в хозяйственной и социально-политической сферах потребовал соответствующей реорганизации спецслужбы. Подчинение органов госбезопасности Наркомату внутренних дел, а губернских отделов ГПУ губисполкомам Советов органически включило секретную службу в государственную систему управления страной.
Произведённая реорганизация не явилась формальной сменой вывески, хотя суть специальной службы сохранилась. Если ВЧК действовала как чрезвычайный орган, обладая практически неограниченными полномочиями, то Государственное политическое управление при НКВД РСФСР, являясь составной частью советского государственного аппарата управления, руководствовалось положениями о данном аппарате, закреплёнными в Конституции Российской Федерации. Органы госбезопасности стали юридически конституционными и тем самым был завершён переход от «чрезвычайщины» к государственности.