Первоначально, после ареста в 1951 г., Абакумову инкриминировалась подготовка заговора, создание «сионистского центра» в МГБ, сокрытие шпионских и террористических дел, главным из которых являлось пресловутое «дело врачей». После смерти Сталина и последующего ареста Берии версия обвинения резко изменилась. Теперь в вину Абакумову ставили участие в «банде Берии», в том числе фабрикацию «ленинградского» и «авиационного» дел. 19 декабря 1954 г. Абакумов был расстрелян. Несмотря на тяжелейшие пытки, виновным он себя не признал, ни одного протокола не подписал. В 1997 г. Военная коллегия Верховною Суда РФ частично реабилитировала Абакумова, сняв с него обвинения в измене Родине, признав, однако, виновным в «воинско-должностных преступлениях».