Илья Френкель появился на свет 9 октября 1903 года в Кургане, который тогда входил в состав Тобольской губернии. В настоящее время это административный центр Курганской области.
Судьба семьи Френкелей сложилась непросто. Отец Ильи, Лев Яковлевич, был отправлен на каторгу в Сибирь, и его жена, Софья Ильинична, вместе с двумя детьми последовала за ним. Спустя четыре года отца перевели под надзор в Екатеринбург, где он работал в лаборатории, занимаясь производством кефира для продажи. К 1917 году семья уже проживала в Москве, а Лев Френкель, ставший химиком-бактериологом, занял пост директора резинового завода «Каучук». Он скончался в 1943 году.
Весной 1918 года Илья покинул школу и устроился на работу курьером в Московский районный исполнительный комитет. Он также стал членом союза рабочей молодежи «III Интернационал» в Хамовниках и с 1919 года вступил в РКП(б). В числе его служебных обязанностей было участие в ЧОНе, где он служил пулеметчиком и позднее работал политработником на Брянском вокзале в Москве.
Илья обучался на художественном факультете ВХУТЕМАСа и работал в качестве корреспондента для различных газет, а также редактора в издательстве «Молодая гвардия». Его первое произведение было опубликовано в 1920-е годы.
В 1922 году он занял должность секретаря партийной ячейки и затем стал корректором в 13-й типографии Москвы. С 1923 года Френкель трудился в Центральном институте труда ВЦСПС, а с 1926 года работал корреспондентом в редакциях газет «Рабочая Москва» и «Рабочая правда».
С 1929 года он стал редактором в издательстве «Молодая гвардия». В 1930 году он написал песню, ставшую популярной, и адаптировал «Гимн Коминтерна», в котором лишь первая строчка была переводом с немецкого. В 1931 году Илья создал песню «Юность», которая также обрела популярность.
В 1933 году он завершил обучение в Институте красной профессуры и работал начальником политотдела Ялуторовской МТС в Урале, редактируя газету «Стальной конь». В 1934 году Френкель занял аналогичную должность в МТС Михневского района Московской области.
Его первый сборник стихов под названием «Песня и стих» был издан в 1935 году и получил положительные отзывы от таких поэтов, как Б. Л. Пастернак и Н. Н. Асеев. С того времени он стал членом Союза писателей СССР и продолжил свою карьеру в этом направлении.
С 1938 года Френкель возглавлял отдел поэзии в журнале «Новый мир».
Во время советско-финляндской войны (1939-1940) и Великой Отечественной войны Илья Френкель служил старшим батальонным комиссаром и работал специальным корреспондентом для фронтовых газет. В его творческом наследии много стихотворений о войне, в том числе известное «
Давай закурим».
После войны Френкель продолжал свою литературную деятельность, создав такие песни, как «В защиту мира» и «Одесский порт». Он также занимался поэтическими переводами с различных языков и писал стихи на суржике.
Илья Львович Френкель ушел из жизни 2 марта 1994 года и был похоронен на Ваганьковском кладбище в Москве, рядом с писателем Борисом Яглингом.