Федор Иванович родился 16 июня 1894 года в деревне Андроники Ярославской губернии. После смерти отца в 1907 году был вместе с другими детьми взят на воспитание его братом Александром, петербургским купцом. В 1912 году сдал экстерном экзамен за полный курс Санкт-Петербургского Императорского коммерческого училища. Перед Первой мировой войной Федор Иванович работал бухгалтером, но пришлось стать военным – он командовал ротой, батальоном, был награжден орденами Анны и Станислава. В августе 1918 года Толбухин вступил в Красную армию, в 1921-1922 годах участвовал в подавлении Кронштадтского восстания и военных действиях против финских отрядов в Карелии. С июля 1938 года стал начальником штаба Закавказского военного округа. В июне 1940 года ему было присвоено воинское звание генерал-майор.
Начало Великой Отечественной войны Федор Иванович встретил начальником штаба Закавказского военного округа. Под его руководством была спланирована операция по вводу советских войск в Иран, которая осуществилась в августе-сентябре 1941 года.
Во время Великой Отечественной войны Федор Иванович проявил себя как талантливый организатор и военный. В 1942 году стал заместителем командующего войсками Сталинградского военного округа. Руководил войсками в Сталинградской битве, на Дону, в Донбассе, освобождал Украину, Крым, прошел Румынию, Болгарию, Югославию, Венгрию, Австрию. В 1944 году Толбухину было присвоено звание Маршала Советского Союза. За боевые заслуги Федор Иванович был награжден многими орденами, в том числе высшим военным орденом «Победа».
С июля 1945 года маршал Ф. И. Толбухин – главнокомандующий Южной группой войск на территории Румынии и Болгарии, созданной для противодействия вероятным военным действиям Турции на Балканах. С января 1947 года – командующий войсками Закавказского военного округа.
Федор Иванович Толбухин умер от сахарного диабета 17 октября 1949 года в Москве. Прах военачальника погребен в Кремлевской стене. В 1965 году Указом Президиума Верховного Совета СССР посмертно был удостоен звания Героя Советского Союза.
В честь маршала названы многие проспекты и улицы в России и других странах, установлены памятники. Портрет героя войны изображен на двух почтовых марках Болгарии.