Ф. И. Толбухин начал армейскую службу в 1915 г. вольноопределяющимся, пройдя курс обучения в школе шоферов при Петроградской учебно-автомобильной роте. После недолгой службы мотоциклистом при штабе 6-й пехотной дивизии Северо-Западного фронта в апреле — июле 1915 г. он окончил ускоренный курс Ораниенбаумской офицерской школы и получил звание прапорщика.

На фронтах Первой мировой войны выжившие в боях офицеры, имевшие образование, стремительно продвигались по служебной лестнице. Уже к осени 1915 г. Толбухин временно исполнял обязанности командира 11-й роты 2-го Заамурского полка 1-й Заамурской пехотной дивизии, действовавшей в составе 9-й армии на Юго-Западном фронте. Летом 1916 г. подпоручику Толбухину довелось участвовать в знаменитом Брусиловском прорыве, который генерал-лейтенант М. Р. Галактионов в своем предисловии к мемуарам Брусилова, изданным в 1946 г., назвал «предтечей замечательных прорывов, осуществленных Красной Армией в Великой Отечественной войне». За проявленную в боях личную храбрость и ответственное выполнение поставленных боевых задач в царско-русской армии Толбухин успел получить еще и звание поручика, был награжден орденами Св. Анны и Св. Станислава. Машина войны требовала новых солдат, и 28 января 1917 г. поручик Ф. И. Толбухин был направлен на формирование 13-го полка 4-й Заамурской пехотной дивизии, где молодого офицера застала Февральская революция. На должности командира батальона Толбухин в июне 1917 г. поучаствовал и в последнем наступлении России времен Первой мировой войны, принесшем русской армии поражение, а молодому офицеру — звание штабс-капитана и тяжелую контузию. После Октябрьской революции, в декабре 1917 г., Толбухин взял двухмесячный отпуск по болезни, а в марте 1918 г. и вовсе демобилизовался, вернувшись в родной ярославский край.

Места для мирной профессии бухгалтера в разоренной войной России не было, и Ф. И. Толбухин устроился работать в созданную, согласно Декрету СНК, сеть комиссариатов по военным делам, возглавив волостной военкомат, занимавшийся учетом, подготовкой и призывом военнообязанных. В 1919 г. окончил школу штабной службы. На штабной работе в составе 56-й стрелковой дивизии Толбухину пришлось поучаствовать и в Гражданской войне. Сначала он воевал в районе Белоруссии на Польском фронте, получив в августе 1920 г. «за отличия в боях против врагов социалистического Отечества» орден Красного Знамени, а вторым (и последним) боевым эпизодом Гражданской войны для него стала борьба против белофиннов за Советскую Карелию. За самоотверженную работу на должности начальника оперативного управления штаба Карельского района Ф. И. Толбухин был награжден также грамотой, знаком «Честному воину Карельского фронта» и ценными подарками. В период мирного строительства армии Ф. И. Толбухин неспешно продолжил свое продвижение по служебной лестнице — в 1926 г. окончил Высшие академические курсы при Военной академии им. Фрунзе, в 1930 г. — Курсы усовершенствования начальствующего состава, а в 1934 г. — оперативный факультет Военной академии имени М. В. Фрунзе. После десятилетия на должности начальника штаба стрелковой дивизии, в ноябре 1930 г. он стал начальником штаба стрелкового корпуса. В 1938 г. комбриг Толбухин стал начальником штаба Закавказского военного округа.

С тех пор и до самой смерти судьба Ф. И. Толбухина была тесно переплетена с южными рубежами нашей Родины.