В годы ВОВ Серов занимал следующие посты (некоторые одновременно): заместитель наркома внутренних дел, начальник охраны тыла Московской зоны (октябрь 1941 г. — февраль 1942 г.), член комиссии ГКО СССР по организации обороны Северного Кавказа (1942 г.), уполномоченный НКВД СССР по 1-му Белорусскому фронту (январь-июль 1945 г.), начальник охраны тыла 1-го Белорусского фронта (1944 г. — май 1945 г.), уполномоченный НКВД СССР в Польше (1945 г.) и др.