Польшу, принимал участие в боях под Краковом, Сандомиром, в районе Паневежиса и тяжёлых боях у реки Бзура. За время войны Тюленев проявлял мужество и был четырежды награждён Георгиевским крестом. В 1917 году окончил Чистопольскую школу прапорщиков), командовал взводом в своем полку. После Февральской революции был избран солдатами в эскадронный и в полковой солдатские комитеты.
В октябре 1917 года Тюленев вступил в кавалерийский отряд Красной гвардии под командованием Шишкова, в котором был командиром взвода и эскадрона на Восточном фронте. С февраля 1918 г. служил командиром взвода, эскадрона в 1-м Московском кавалерийском полку. В декабре 1918 был направлен слушателем в Военную академию РККА в Москву. Одновременно часто командировался на фронт, служил помощником начальника штаба 4-й кавалерийской дивизии на Южном фронте. В августе 1919 был назначен начальником разведотдела штаба конного корпуса С. М. Будённого, затем разведотдела 1-й Конной армии. В феврале 1920 года был назначен командиром кавалерийской бригады 4-й кавалерийской дивизии 1-й Конной армии, с которой воевал на Западном фронте в Польше.
С декабря 1920 года возобновил учебу в Военной академии. Во время Кронштадтского восстания был командиром 137-го Минского пехотного полка, участвовал в подавлении восстания. Летом и осенью 1921 года участвовал в подавлении Тамбовского восстания, с мая по октябрь исполнял обязанности командира 15-й Сибирской кавалерийской дивизии и командовал 1-й кавалерийской бригадой.
После окончания академии в 1922 году Тюленев получил назначение на должность командира отдельной кавалерийской бригады в Московском военном округе (МВО), в 1924 принял 14-ю Майкопскую кавалерийскую дивизию. С 1925 года инспектор кавалерии и ремонтов Северо-Кавказского военного округа, с 1926 года — начальник Украинской кавалерийской школы имени С. М. Будённого. В 1927 командир 2-й отдельной кавалерийской бригады Кавказской Краснознамённой армии. В 1929-30 гг. окончил Курсы усовершенствования высшего начальствующего состава и курсы партийно-политической подготовки командиров-единоначальников при Военно-политической академии.
С ноября 1930 года Иван Тюленев командир и военком 1-й отдельной Особой кавалерийской бригады имени И. В. Сталина, затем пом. инспектора кавалерии РККА. С 1934 начальник Управления по конскому составу РККА, начальник отдела Народного комиссариата обороны СССР по ремонтированию конского состава. В 1935 присвоено звание комдив, с февраля 1936 года — заместитель инспектора кавалерии РККА.
С февраля 1938 года Иван Тюленев командующий войсками и член Военного совета Закавказского военного округа, член Военного совета при народном комиссаре обороны СССР, присвоено звание комкор, через год — командарм 2-го ранга. В начале сентября 1939 года срочно вызван в Киев и назначен сначала командующим войсками Кавалерийской армейской группы Киевского Особого военного округа (КОВО), затем командующим войсками Каменец-Подольской армейской группы Украинского фронта, 20 сентября — командующим войсками Южной армейской группы Украинского фронта, а 24 сентября — командующим войсками 12-й армии. На этих постах провёл Польский поход РККА в сентябре 1939 года.
После завершения боевых действий и размещения войск на занятых территориях в октябре 1939 года вернулся к исполнению обязанностей командующего войсками Закавказского ВО. В июне 1940 года, с введением в РККА генеральских званий, Тюленев стал одним из трёх первых советских генералов армии, наряду с Г. К. Жуковым и К. А. Мерецковым. С августа 1940 года — командующий войсками Московского военного округа.
С началом Великой Отечественной войны генерал Тюленев назначается командующим Южным фронтом, провёл оборонительную операцию в Молдавии и Тираспольско-Мелитопольскую оборонительную операцию. Под натиском противника фронт отступал, при этом своими действиями генерал вызвал недовольство Ставки. В тяжёлых боях под Днепропетровском 29 августа 1941 года получил тяжёлое ранение и до 13 октября находился на лечении в Центральном военном госпитале в Москве.
После излечения был направлен в Уральский военный округ с задачей формирования в 14 стрелковых и 6 кавалерийских дивизий, а также обучения личного состава. В ноябре 1941 года часть дивизий была сформирована и составила основу 28-й резервной армии, командующим которой был назначен генерал Тюленев. Армию передали в резерв Ставки ВГК, она заняла тыловую полосу обороны по линии Рыбинск — Углич — Переславль-Залесский — Шуя.
Боевые действия на Кавказе: В феврале 1942 года Тюленев назначен зам. главнокомандующего Юго-Западного направления, затем командующим Закавказским фронтом, штаб которого размещался в Тбилиси. Были переформированы, укреплены и вновь созданы оборонительные рубежи рек Сулак, Терек и города Грозный, усилена оборона Главного Кавказского хребта. События лета 1942 года подтвердили верность решения командующего. 8 августа для оперативного управления войсками была образована Северная группа Закавказского фронта с управлением в Грозном. С лета 1942 года началась битва за Кавказ, но немецким войскам не удалось выполнить главную задачу: прорваться к нефтяным месторождениям Грозного и Баку. В январе 1943 года Закавказский фронт начал наступление на Краснодар и Новороссийск. После передачи Черноморской группы войск в состав Северо-Кавказского фронта, Закавказский фронт остался обеспечивать оборону южных рубежей СССР.
С июля 1945 года Иван Тюленев командовал войсками Харьковского военного округа. В 1946 года был назначен генерал-инспектором кавалерии Главной инспекции Сухопутных войск СССР, 1947-48 гг. зам. командующего кавалерией Сухопутных войск. С 1948 по 1953 год председатель стрелково-тактического комитета Сухопутных войск. С марта 1955 года начальник управления вневойсковой подготовки Главного управления боевой подготовки Сухопутных войск. С мая 1958 года — в Группе генеральных инспекторов Министерства обороны СССР.
Похоронен на Новодевичьем кладбище в Москве.
