С января 1938 года большинство историков замечают первые признаки сталинских сомнений, стоит ли продолжать Большой террор в прежних объемах. Об этом свидетельствует прежде всего речь Маленкова на январском пленуме 1938 года, где он говорит о бездушном отношении некоторых парторганизаций к исключениям из партии. Как все понимали, исключение из партии обычно влекло арест. Соответствующее решение принял и пленум. Все партийные организации и органы НКВД отчитались о том, как усиливают свою душевность и разборчивость по отношению к партийцам.

Тем не менее, в 1938 году у НКВД оставалось много нерешенных задач, поставленных Сталиным: организация третьего большого процесса, окончание «национальных операций», чистки армии, НКВД, наркоматов. В результате террор только усиливался. Судя по количеству упоминаний в газетах, публикаций стихов и песен, посвященных наркому НКВД, Николай Ежов находился в фаворе у вождя. Но 8 апреля 1938 года Ежова неожиданно назначают по совместительству наркомом водного транспорта.

Ежов с энтузиазмом занялся наведением порядка на реках и каналах, используя обычные свои методы, но вскоре почуял неладное.

13 июня 1938 года в Японию бежал начальник Дальневосточного управления НКВД Г. С. Люшков. Он был человеком Ежова, и тот, зная, что Люшкова, возможно, арестуют, предупредил его. Они договорились, что если Люшков получит от Ежова телеграмму любого содержания, то арест неизбежен и следует застрелиться. Кроме того, Ежов скрыл от ЦК показания на Люшкова, которые дали еще в 1937 году бывший нарком внутренних дел Закавказья Тите Лордкипанидзе, начальник контрразведывательного управления НКВД СССР Лев Миронов и сам Генрих Ягода. Он не только скрыл эти показания, но и поручил своему заместителю Михаилу Фриновскому передопросить Ягоду и добиться от него признания ложности данных показаний. Ежов лично заставил отказаться от таких же показаний Миронова.

16 апреля в Москву вызвали заместителя Люшкова Моисея Когана и тут же арестовали. Вслед за этим Николай Иванович дал Люшкову обещанную телеграмму о назначении его в центральный аппарат НКВД. Однако Люшков, вместо того чтобы честно застрелиться, в сопровождении группы чекистов выехал на границу с Маньчжурией. Там он попросил оставить его одного, потому что ему предстоит секретная встреча с советским резидентом. В Советский Союз Люшков не вернулся – вскоре стало известно, что он устроился на службу в японскую контрразведку.

Ежов понял, что такого провала ему не простят. Он побоялся сразу доложить Сталину о происшедшем. Лишь через несколько дней отправился к вождю в компании Фриновского. В результате была утроена очередная массовая чистка Дальнего Востока, в ходе которой был арестован маршал Блюхер. Но это наркому не помогло.

Биограф Николая Ежова историк Никита Петров приводит несколько фактов, свидетельствующих о падении к 1938 году авторитета Ежова даже среди высшей партийной номенклатуры. О Ежове в беседе со случайным собеседником презрительно отзывается председатель Госплана Николай Вознесенский. Абсолютно послушный Клим Ворошилов не боится предупредить своего заместителя Ивана Федько, что, если он попадет в руки Ежова, его «заставят написать на себя всякую небылицу». По свидетельству начальника НКВД Украины Александра Успенского, начальник секретариата НКВД Исаак Шапиро сказал ему, что у Ежова большие неприятности, в ЦК ему не доверяют, скоро на его место придет другой человек, и надо срочно заметать следы – быстро расстрелять порядка 1000 человек, которые могут дать компрометирующие показания на Ежова и его окружение.

В тот же день Успенский был на даче Ежова. Там начальник УНКВД по Ленинградской области Михаил Литвин сказал ему: «Нужно прятать концы в воду, нужно в срочном порядке закончить все следственные дела, чтобы нельзя было разобраться. Если не удастся все скрыть, придется перестреляться. Если я увижу, что дела плохи, застрелюсь». В результате Успенский решит бежать, имитируя самоубийство, оставив предсмертную записку «Ищите меня в Днепре». А Литвин в ожидании ареста и правда застрелился.

14 июля бежит в США резидент НКВД в Испании Александр Орлов. А Ежов снова медлит доложить об этом Сталину. Он судорожно начинает затирать следы. В июле-августе расстреляна большая группа уже арестованных чекистов, в свое время выдвинутых на руководящие должности самим Ежовым.

22 августа 1938 года первым заместителем Николая Ежова (этот пост прежде занимал Михаил Фриновский) назначается Лаврентий Берия. Существуют свидетельства, что замену Ежову Сталин искал уже давно. Еще в 1936 году он приглядывался к Нестору Лакобе, к Валерию Чкалову и Анастасу Микояну. Решающий разговор с Лаврентием Берией произошел, вероятно, в начале августа, когда тот присутствовал на сессии Верховного Совета СССР. В день своего назначения Берия был принят Ежовым и отправился в Тбилиси улаживать дела.

Такое выдвижение Берии вполне логично. В Советском Союзе было всего два партийных руководителя высокого ранга с богатым чекистским прошлым – Мир Джафар Багиров и Лаврентий Берия. Вождь Грузии был во всех смыслах предпочтительнее. Более образован, написал книгу, высоко ценимую Сталиным, проявил себя как блестящий хозяйственный руководитель и, наконец, не рассуждая и без сантиментов, уничтожил множество земляков и врагов генсека. Сталину больше не нужны были фанатики коммунистической идеи, теоретики. Нужны были послушные, квалифицированные исполнители типа Маленкова, Жданова, Хрущева. Лаврентий был из этого ряда.

К осени 1938 года Сталин пришел к выводу, что Большой террор свои задачи выполнил, аресты и расстрелы по приказу № 1 закончились, оставалось довести до конца некоторые национальные операции. Во главе НКВД нужен не фанатик, а человек взвешенный, который не будет пороть горячку.

Впрочем, дальнейшее продвижение Берии на пост наркома НКВД поначалу не выглядело несомненным. Сам Николай Ежов сменил Генриха Ягоду, минуя стадию заместительства. В августе 1938-го Ежов оставался на своем посту, более того, о недоверии к нему знали очень немногие. На поверхности это был все тот же железный прославленный нарком. Остались свидетельства Никиты Хрущева, Серго и Нины Берии о том, что Лаврентий Павлович был не в восторге от такого назначения и не хотел переезжать из Тбилиси в Москву.

О том же писал в 1953 году близкий Берии Меркулов:

Понять недовольство Берии нетрудно. Кроме потенциальной опасности, которую представляла работа в НКВД, его назначали с явным понижением. Из главы образцовой республики – в заместители наркома. Вообще говоря, такое назначение могло быть преддверием ареста. Сталин любил подобные оперативные комбинации.

Однако у вождя были все же другие планы. Все больше опускавшегося алкоголика, истерика и садиста Ежова держать на столь важном посту было опасно. Берия, видимо, поначалу должен был играть роль некоего политического комиссара в НКВД, не давать Ежову заметать следы, выведать лично преданные ему кадры, разнюхать секреты. Решающее значение определялось уверенностью Сталина, что Берия и Ежов не сговорятся за его спиной. Уже довольно долго он был в курсе их сложных взаимоотношений.