Структура органов НКВД на оккупированной территории Германии соответствовала прежнему государственному административному делению: в каждой федеральной земле действовал оперативный сектор НКВД, которому подчинялись опергруппы в городах и уездах. Задачи этих органов были сформулированы в директиве Серова № 002465 от 27 августа 1945 г.: ликвидация диверсионно-террористических групп и бандформирований, борьба с враждебными проявлениями со стороны фашистских и других преступных элементов, производство обысков, арестов и других оперативно-войсковых мероприятий под руководством начальников оперативных групп, внешняя охрана тюрем, КПЗ, конвоирование задержанных, охрана и оборона пунктов дислокации оперативных секторов, групп и других подразделений внутренних войск. Кроме того, сотрудники НКВД несли охрану промышленных, горно-добывающих и проектных предприятий, работавших в пользу СССР, вроде урановых шахт в Рудных горах или авиазавода в Дессау.
