Указом Президиум Верховного Совета от 20 июля 1941 года НКВД СССР и НКГБ СССР были объединены в единый наркомат – НКВД. Вопросами шифровальной работы в созданном ведомстве занимался 5-й спецотдел (начальник И. Г. Шевелев).

Приказом НКВД СССР № 001430 от 2 октября 1941 года был организован Отдел правительственной связи. Все документы, относящиеся к его организации и функционированию, имели гриф «сов. секретно».

Его структура по состоянию на май 1942 года:

руководство;

секретариат;

1-е отделение – эксплуатация связи;

2-е отделение – развитие и строительство ВЧ связи;

3-е отделение – радиосвязь;

4-е отделение – линейная эксплуатация;

5-е отделение – кадры;

6-е отделение – материально-техническое снабжение;

спецлаборатория.

В 5-м спецотделе НКВД СССР (по состоянию май 1942 года) вопросами криптографической службы занимались:

1-е отделение – дешифровально-разведывательная работа (Германия);

2-е отделение – дешифровально-разведывательная работа (Япония, Маньчжоу-Го);

3-е отделение – дешифровально-разведывательная работа (Англия, США);

4-е отделение – дешифровально-разведывательная работа (Италия, Испания);

5-е отделение – дешифровально-разведывательная работа (Франция, Бельгия);

6-е отделение – дешифровально-разведывательная работа (Балканы, Скандинавия, Финляндия);

7-е отделение – дешифровально-разведывательная работа (Турция, Иран, Ирак, Афганистан);

8-е отделение – дешифровально-разведывательная работа (Китай);

9-е отделение – составление, исследование и издание кодов для НКИД, НКВТ, НКВД, НКО и НКВМФ;

10-е отделение – составление и издание шифроблокнотов для НКО, НКВМФ, НКВД, НКИД, НКВТ;

11-е отделение – осуществление шифросвязи оперативно-чекистских управлений и отделов НКВД СССР, зашифровка и расшифровка телеграмм, учет и снабжение шифрдокументами периферийных органов НКВД СССР и их инструктаж по шифрработе;

12-е отделение – осуществление шифрсвязи исправительно-трудовых лагерей и колоний НКВД, лагерей для военнопленных и проверочно-фильтрационных лагерей, пограничных, внутренних и оперативных войск НКВД, Прокуратуры СССР, Военной коллегии Верховного Суда СССР;

13-е отделение – осуществление шифросвязи закордонных резидентур 1-го управления НКВД СССР;

14-е отделение – оперативно-чекистское обслуживание шифроорганов Наркоматов СССР и других ведомств и учреждений;

15-е отделение – проверка и допуск лиц к секретным, мобилизационным и шифровальным работам и документам в учреждениях и предприятиях, спецпроверка личного состава работающих на режимных предприятиях;

16-е отделение – агентурно-оперативное.

Приказом НКВД СССР от 3 ноября 1942 года на базе 5-го спецотдела было образовано 5-е Управление (шифровальное). Его руководителем был назначен майор госбезопасности И. Г. Шевелев.

В апреле 1943 года НКГБ вновь отделили от НКВД. В НКГБ вопросами шифровально-дешифровальной работы и спецсвязью занималось 5-е Управление НКГБ. А в НКВД, согласно приказу от 28 апреля 1943 года, был образован 2-й спецотдел НКВД СССР (шифровальный). Его начальником был назначен подполковник госбезопасности А. А. Воробьев.

По состоянию на 1 апреля 1945 года во 2-м спецотделе Центрального аппарата НКВД СССР работало 49 сотрудников (при штате 52), а в отделе Правительственной связи – 263 человека (при штате 296).