Коллегия НКВД была создана решением Политбюро ЦК ВКП(б) П60/62 от 5 апреля 1938 г. в следующем составе: Н.И. Ежов, М.П. Фриновский, Л.Н. Вельский, Л.М. Заковский, С.Б. Жуковский, В.В. Чернышев, А.А. Ковалев и В.А. Каруцкий. Однако решение осталось только на бумаге, к работе Коллегия не приступала. А к августу 1938г. из 8 ее членов на работе в НКВД осталось лишь 5. Заковский был арестован, Каруцкий застрелился, Вельский перешел на работу в НКПС.