В начале 1933 года Жуков с Тухачевским и Буденным закончил разработку Боевого устава конницы РККА, который определял новый состав кавалерийских дивизий, в частности создание в каждой из них в дополнение к кавалерийским полкам по одному танковому и одному артиллерийскому. Производившаяся военная техника, как объясняет Жуков в своих «Воспоминаниях», соответствовала возможностям промышленности и, главное, целям глубокой операции. Созданные в предвоенный период танк Т-34 и штурмовик Ил-2 через несколько лет отлично зарекомендовали себя в бою. Новая 122-мм гаубица имела дальность стрельбы 14 км, то есть могла простреливать на всю глубину тактическое расположение противника. Танки БТ-5 являлись самыми быстроходными в мире и могли обеспечивать «нормы проникновения» в неприятельские порядки.

В марте 1933 года Жукова вызвали к первому заместителю Буденного, который сообщил, что начальник Инспекции кавалерии рекомендовал его на должность командира 4-й кавалерийской дивизии. Предложение это стало результатом инспекции данной дивизии командующим Белорусским военным округом Уборевичем, указавшим на катастрофическое положение соединения, носившего имя Ворошилова и бывшего в прошлом одним из лучших в Конармии. Ворошилов и Буденный, сами ветераны этой дивизии, в ярости сняли ее командира с должности и выбрали Жукова, чтобы он восстановил в ней порядок и дисциплину. В связи с этим решением надо отметить, что и в Наркомате обороны была известна репутация Жукова как человека несгибаемого и педантичного.

Жуков отправился в Слуцк, в Белоруссию, где в 50 км от польской границы была расквартирована 4-я кавдивизия. Еще месяцем раньше она стояла в Минске. Возможно, переброска дивизии объяснялась началом реализации плана, разработанного в 1932 году Тухачевским, который хотел поквитаться с Варшавой. Александра была в отчаянии оттого, что пришлось оставить Москву, несмотря на неудобство квартиры в Сокольниках, и перебраться в маленький грязный городишко с преимущественно еврейским населением. Для того чтобы найти жилье площадью в 8 м², пришлось переселить другую семью. Убегая от брюзжаний жены, Жуков отправился инспектировать входящие во вверенную ему дивизию пять полков: четыре кавалерийских и 4-й механизированный полк, развернутый на границе. В Советском Союзе снова ходили слухи о возможности нападения: со стороны Германии (двумя месяцами ранее к власти там пришел Гитлер, отозвавший из России всех своих военных специалистов), Польши… или обеих разом.

Способ, каким Жуков начал действовать, ясно показывает, чем в то время была Красная армия. Первым делом он созвал партактив, затем совещание командно-политического состава, и, наконец, организовал целую серию митингов. Жуков имел свой план выправления ситуации в дивизии и стремился привлечь на свою сторону политработников, которые могли ему помешать в его деятельности. По его «Воспоминаниям» чувствуется, что, хотя он по-прежнему любил кавалерию, его особое внимание и забота были обращены на механизированный полк. Постановление о моторизации и механизации Красной армии было принято ЦК 15 июля 1929 года при обсуждении пятилетнего плана ее развития. Тухачевский и Триандафиллов добились принятия этого решения, преувеличив степень военной угрозы на Дальнем Востоке. В том же году был сформирован первый экспериментальный механизированный полк. В 1931 году, также в порядке эксперимента, сформировали механизированную бригаду, а в 1932 году – первый механизированный корпус – внушительное соединение, включавшее 450 танков, 8965 человек и 1444 различных автомобилей. На 1 января 1934 года РККА насчитывала уже 14 механизированных полков, наряду с другими механизированными частями и соединениями, от корпуса до батальона. С первого своего посещения 4-го механизированного полка Жуков увидел, какой разрыв существует между теоретическими изысканиями московских мыслителей и реалиями армейской жизни. «Мешал недостаточно высокий общеобразовательный уровень многих солдат и командиров, часто бывали аварии, технические неурядицы, не все понимали, как необходимы технические знания, не хватало технических кадров».

Несмотря на начавшуюся в 1928 году форсированную индустриализацию, Советский Союз еще оставался аграрной страной. Он просто не имел достаточного количества людей, способных управлять современной техникой, даже обычным автомобилем. Существовала нехватка запчастей, производство которых не предусматривалось планами. Не было достаточного количества качественной продукции нефтяной и химической промышленности. В зачаточном состоянии пребывала электротехническая промышленность, что, наряду с другими факторами, объясняло отсутствие в войсках радиосвязи. Техническая грамотность, аккуратность в работе, бережное отношение к оборудованию, пунктуальность, исполнительность – все эти качества, выработавшиеся за многие годы промышленного развития в Германии, Франции или Соединенных Штатах, в Советском Союзе отсутствовали. Чтобы привить их своим подчиненным и наверстать упущенное время, Жуков не имел иных средств, кроме принуждения, пропаганды и лозунгов (вроде «Технику – в массы! Овладение техникой – боевая задача!», брошенного партией в 1932 году). «Повсюду в частях можно было увидеть сооруженные армейскими комсомольцами щиты и фотовыставки, популяризировавшие технические знания, проводились летучие митинги и собрания о бережном отношении к технике, устраивались библиографические вечера по военно-технической книге, организовывались смотры техники, массовая кампания за сдачу норм на отличного стрелка».

К 1941 году ни в 4-м механизированном полку, ни в Красной армии в целом эти недостатки не были изжиты полностью. Она еще могла довольно успешно сражаться против поляков, финнов и японцев, но ей нечего было противопоставить профессионализму и опыту вермахта. Даже у Жукова, самого требовательного из высших советских командиров, мы не находим в 1930-х годах благоговейного отношения к боевой подготовке (оно придет позже, в 1940-м, после открытия беспомощности РККА, и уже после он будет непримирим в этом вопросе). Это была общая слабость советского командования, унаследованная от царского генералитета. В полевом уставе 1929 года боевая подготовка среди факторов, которые должны обеспечить победу, стоит на пятом месте из семи возможных, после политического воспитания и революционного сознания. В Красной армии были далеки от характеризующей германскую военную традицию страсти к тщательной подготовке и маневрам. Со времен Фридриха II ни один немецкий офицер не сомневался в том, что тщательная подготовка есть ключ к взаимодействию между частями и подразделениями, к отработке тактических и технических навыков и умений до уровня рефлексов. Вплоть до 1943 года вермахт будет сохранять в этом преимущество над Красной армией. Благодаря хорошей подготовке его офицерские кадры до дивизионного уровня будут лучше, потери меньше, а эффективность действий выше.

Через шесть месяцев после назначения Жукова командиром 4-й дивизии положение в ней оставалось плохим, если судить по реакции командующего Белорусским военным округом Уборевича. Человек с тонким интеллигентным лицом, в очках в золотой оправе, всегда холодно-сдержанный, Уборевич дотошно проверил соединение, не говоря ни слова. А потом неожиданно вынес Жукову официальный выговор по результатам инспекции. Колоссальное самолюбие комдива было уязвлено. Забыв всякую осторожность, он послал своему начальнику возмущенную телеграмму: «Командующему войсками округа Уборевичу. Вы крайне несправедливый командующий войсками округа, я не могу служить с вами и прошу откомандировать меня в любой другой округ. Жуков». Похоже, такая горячность понравилась Уборевичу, тот провел новую проверку и снял с Жукова выговор. Как это часто бывало в СССР, за обычным делом скрывалось жестокое соперничество кланов и группировок. Жуков был назначен командиром дивизии благодаря Буденному. Уборевич же принадлежал к враждебному тому клану Тухачевского. Вполне естественно, что он настороженно отнесся к новичку, присланному в его округ. Но он смягчился, когда понял, что имеет дело не с интриганом, а с представителем того самого типа командира, воспитать который стремится сам: с профессионалом. Жукову повезло, что он не слишком тесно сблизился с кланом Тухачевского – Уборевича – Якира. Иначе ему пришлось бы дорого заплатить за это в 1937 или 1938 году. Продолжение его рассказа подтверждает существование у него великолепных отношений с группировкой Буденного – Ворошилова.

Жукову потребовалось полтора года напряженной работы, чтобы восстановить порядок в 4-й дивизии. Уборевич и Буденный дважды проинспектировали ее и дали очень хорошую оценку. Бывший командующий Конармией воспользовался этим случаем, чтобы показаться в новенькой форме Маршала Советского Союза. Летом 1935 года 4-я дивизия была включена в 6-й казачий корпус и, по предложению Буденного, получила название 4-й Донской казачьей. Вводилась казачья форма: синие штаны с красными лампасами, синяя фуражка с красным околышем. Это было одним, пусть забавным, но символичным знаком идеологического поворота в СССР к тому, что многими историками характеризуется как «национал-большевизм»; и движение в этом направлении пойдет по нарастающей вплоть до самой войны.