Жукова не просто отправили в отставку, его сделали persona non grata. 23 февраля 1958 года, в ознаменование сороковой годовщины со дня создания Красной армии, в Москве, на Поклонной горе, был заложен первый камень главного монумента в честь победы советского народа над фашизмом. Хотя инициатором этого проекта был Жуков, представивший его на рассмотрение ЦК 14 июня 1955 года, партийные вожди в последний момент решили, что «еретик» не должен осквернить своим присутствием священное мероприятие. Пучков вспоминал, что около 09:30 ему позвонил генерал Блинов из Министерства обороны и спросил, встал ли маршал. «Да».  – «Скажите ему, чтобы оставался дома». Пучков ответил, что маршал собрался куда-то ехать, что его ждет машина и что лучше генералу позвонить ему самому. Тот не перезвонил, а сообщил министру обороны Малиновскому, а тот позвонил Жукову. Георгий Константинович вышел в столовую и сказал Пучкову, что машина ему сегодня не понадобится и ее можно отпустить в гараж. По его лицу было видно, что разговор с министром получился крайне неприятным, и он сильно взволнован. После этого маршал вернулся к себе и снова лег.

Снятие Жукова с поста отразилось и на его семье. В лучших советских традициях Элле, в то время студентке, пришлось присутствовать на факультетских собраниях, где критиковали ее отца. После окончания учебы ей было трудно найти работу по специальности.

Жуков на долгие годы оказался в изоляции. Старые знакомые, встречая его, переходили на противоположную сторону улицы. Его боевым товарищам «настоятельно советовали» не общаться с ним. Прославленный летчик, трижды Герой Советского Союза Кожедуб вспоминал один неприятный разговор по этому поводу: у него сложились добрые отношения с маршалом, они часто ходили друг к другу в гости. И вот однажды Кожедубу посоветовали перестать общаться с Жуковым. Тот, промучившись месяц, не выдержал и все-таки отправился на дачу маршала. Тот встретил его полушутливым-полунасмешливым вопросом: «Ну что, даже ты, с твоими тремя „Звездами“, испугался?» – «Георгий Константинович, в тридцать седьмом брали и людей со „звездами“». Сам он, сознавая, что стал нежелательным гостем, годами избегал контактов людьми, занимавшими высокое положение, даже с Василевским, отцом своего зятя, чтобы не будить фантазии и страхи членов правительства. Жуков общался только с соседом по даче, генерал-майором Кармановым, и генералом Николаем Антипенко, бывшим у него на 1-м Белорусском фронте начальником тыла. Антипенко часто ездил вместе с ним на Черное море и участвовал в семейных торжествах. Тот же Антипенко, после смещения в 1964 году Хрущева, предпринял попытку реабилитации Жукова, обратившись к новому первому секретарю Леониду Брежневу. В письме он даже позволил себе написать: «Даже и там [в иностранной печати и на радио] имя Жукова занимает подобающее место. Советская же печать и радио как бы предали забвению имя этого заслуженного человека, что вызывает еще большее недоумение и возмущение».

В годы опалы Жукова к нему, не афишируя этого, проявлял симпатию Алексей Косыгин. Кандидат, а с 1960 года член Президиума, он занимал пост заместителя председателя Совета министров вплоть до свержения Хрущева, а потом сменил того во главе правительства. После инсульта, случившегося у него в 1968 году, Жуков страдал от жутких болей, вызванных воспалением тройничного нерва. Он отказывался принимать морфин, прописанный врачами. Галина попросила Косыгина пригласить лучших специалистов для консультации, и тот выполнил ее просьбу. В 1973 году к Жукову были приглашены французский нейрохирург, профессор Гибо (который будто бы опустился на колени перед «спасителем Европы»), и известнейший японский иглотерапевт Содо Окабе. Но вне рамок этих бытовых вопросов и Косыгин строго соблюдал интердикт, наложенный на Жукова партией.

Вычеркнутый из публичной жизни, Жуков приобрел ореол мученика. Чем больше замалчивалось его имя, тем сильнее рос его авторитет. Он превратился в военного героя-диссидента и неформального лидера ветеранов. То же самое происходило и с другим именем, на которое наложил табу Хрущев,  – именем Сталина. Парадоксально, но в народном сознании два этих человека стали неразделимыми и неофициальными символами победы. Это соединение с именем Сталина сыграет злую шутку с Жуковым, особенно после распада Советского Союза. Жуков, один только он, для части интеллигенции станет «сталинским маршалом», безжалостным человеком, для которого человеческая жизнь не имела никакой ценности.