В 1958 году Джордж Маршалл лег в больницу Уолтера Рида на операцию по удалению кисты на лице. Роуз Уилсон, его внучка, навестив его, была поражена, как он вдруг состарился.

«У меня теперь много времени, чтобы предаваться воспоминаниям», — произнес он после рассказа о том, как он в детстве катался с отцом с горки в Юнионтауне. «Мне жаль, — ответила она, — что ваш отец не дожил до того, чтобы узнать, какой у него великий сын. Он бы вами очень гордился». — «Ты правда так думаешь? — спросил Маршалл. — Мне бы хотелось верить, что он бы меня похвалил».

Джордж Маршалл продолжал терять силы. Казалось, весь мир обеспокоен болезнью генерала. Ему писали Уинстон Черчилль и генерал Шарль де Голль, Мао Цзэдун и Чан Кайши, генерал Дуайт Эйзенхауэр, маршал Тито и фельдмаршал Бернард Монтгомери. Приходили тысячи писем от простых американцев. Президент Эйзенхауэр навещал его трижды. К нему приходил Трумэн и 84-летний Черчилль. Маршалл тогда уже впал в кому, и Черчилль постоял в дверях, со слезами на глазах глядя на иссохшее тело человека, которого когда-то знал.

Джордж Маршалл скончался 16 октября 1959 года, не дожив два с половиной месяца до своего восьмидесятилетия. Скромные распоряжения Маршалла на случай похорон распечатали после его смерти. «Похороните меня без лишних церемоний, как любого офицера американской армии, который с честью послужил своей стране. Никакой суеты. Никаких торжественных прощаний. Пусть служба будет короткой и присутствуют только члены семьи. И главное, никакого шума».

В соответствии с его последним желанием торжественных государственных похорон не было. Гроб с телом усопшего выставили для прощания не в ротонде Капитолия, а в Вифлеемской капелле Национального кафедрального собора. На похоронах присутствовали родные, несколько сослуживцев и его парикмахер Николас Тотало, который стриг Маршалла в Каире, Тегеране, Потсдаме, а потом и в Пентагоне. Затем на военной базе Форт-Майер рядом с Арлингтонским военным кладбищем состоялась короткая традиционная поминальная служба. Надгробных речей никто не произносил.