Хотя ведение разведывательной работы в зонах оккупации союзников формально входило в компетенцию органов НКГБ, а Серов в Германии представлял НКВД, ему приходилось заниматься и этим. Как говорилось в спецсообщении народных комиссаров внутренних дел С. Н. Круглова и государственной безопасности В. Меркулова, направленном Сталину 31 января 1946 г., «в составе оперативных групп НКВД насчитывается 2230 работников органов и войск НКВД и 399 оперативных работников НКГБ. НКГБ СССР имеет в Берлине только небольшую оперативную группу в составе 35 чел., которая занимается исключительно разведывательной работой. Такое положение на практике привело к тому, что НКВД СССР в значительной мере приходится заниматься вопросами, относящимися непосредственно к компетенции органов НКГБ СССР (разработка, аресты и следствие по делам шпионов и диверсантов, заброска агентуры в зоны оккупации союзников с разведывательными заданиями, розыск агентуры бывших разведывательных органов Германии, разработка эмигрантов и т. д.)». В связи с этим Круглов и Меркулов предлагали уполномочить Серова и на руководство сотрудниками НКГБ (ГАРФ, Ф. 9401сч. Оп. 2. Д. 134. Л. 231–232).
