После войны К. К. Рокоссовский занимал различные командные и государственные должности. В частности, с 1949 по 1956 год был министром Национальной обороны Польши. Ему было присвоено воинское звание Маршал Польши.

В 1956–1957 гг. К. К. Рокоссовский являлся зам. министра обороны СССР (министром тогда был Г. К. Жуков). Но в 1957-м был переведен командующим Закавказским военным округом. В 1958–1962 гг. — вновь зам. министра обороны и главный инспектор Министерства обороны СССР. В апреле 1962-го Н. С. Хрущев попросил К. К. Рокоссовского написать статью об И. В. Сталине в духе известного постановления XX съезда КПСС о «культе личности». Но маршал решительно отказался выполнять этот политический заказ, и на следующий день был отстранен от должности. Последние годы жизни находился в группе генеральных инспекторов Министерства обороны, тяжело болел. Умер на 72-м году жизни. Урна с прахом — в Кремлевской стене.

Для полководческого почерка К. К. Рокоссовского характерна способность избегать шаблона и прямолинейных действий, умение распознать намерения противника и использовать его слабые стороны, обеспечить максимальную огневую поддержку войск в обороне и наступлении, стремление добиться результата не числом, а умением.

М. А. Гареев, генерал армии: «Современным офицерам он подал великий пример новаторства и непрестанного творчества в военном искусстве, чему всем офицерам надо неустанно учиться».

Он не просто реагировал на складывающуюся обстановку, а стремился влиять на нее в нужном направлении путем дезинформации противника, применения неожиданных для него способов действий, навязывания своей воли, умелым стимулированием действий своих войск.

К. К. Рокоссовский: «В сражении самое основное — идеальная согласованность действий. Командующий фронтом и рядовой боец по временам одинаково влияют на успех, а нередко рядовые бойцы, командиры рот, батальонов, батарей делают решающий вклад в итог боя… Разумеется, огромно значение решений Главного Командования… Но главное — солдаты».

В памяти людей, общавшихся с К. К. Рокоссовским, он остался как высокий, статный, обаятельный человек, душевный и интеллигентный. При этом он, безусловно, обладал личной храбростью и мужеством.

Его часто можно было видеть в окопах, на переднем крае, среди солдат и офицеров. «Если долго не бываешь в окопах, — говорил он, — то появляется ощущение, словно какая-то важная линия связи оборвалась и какой-то очень ценной информации не хватает». Один из самых выдающихся творцов Победы, Рокоссовский так подвел итог своей полководческой деятельности: «Величайшее счастье для солдата — сознание того, что ты помог своему народу победить врага, отстоять свободу Родины, вернуть ей мир. Сознание того, что ты выполнил свой солдатский долг, долг тяжкий и благородный, выше которого нет ничего на земле!»