Евгений Эммануилович Жарковский родился в городе Киеве 12 ноября 1906 года. Его отец, Эммануил Евсеевич Жарковский (1875–1942), был сотрудником банковской сферы, а мать, Елизавета (Лея) Яковлевна Марьямова (1877–1942), являлась двоюродной сестрой знаменитого кинорежиссера Эсфири Ильиничны Шуб. До эвакуации из Киева летом 1941 года отец занимал пост главного бухгалтера в Центральном коммерческом банке. Семья проживала в доме Брискиной, расположенном по адресу улица Прорезная, дом 30.
В 1927 году Жарковский завершил обучение в Киевском музыкальном техникуме. С 1927 по 1928 год он посещал Киевский музыкальный институт им. Н. В. Лысенко, где его преподавателями были B. B. Пухальский и Б. H. Лятошинский. В 1929 году он поступил в Ленинградскую консерваторию, где изучал игру на фортепиано под руководством Л. B. Николаева и композицию у M. A. Юдина и Ю. H. Тюлина. Окончил данное учебное заведение в 1934 году.
Одновременно с учебой Жарковский работал пианистом, а затем стал руководителем Ансамбля песни Ленинградского Дома Красной Армии. В 1932 году он написал свои первые песни, среди которых были «Боевая комсомольская» и «Армейские припевки». Основными направлениями его творчества были оперетта и песня. В предвоенные годы он активно сотрудничал с музыкальными группами Л. Утёсова.
В годы Великой Отечественной войны Жарковский служил офицером на Северном флоте. За это время он создал около сотни песен, которые стали своеобразной музыкальной хроникой военных действий. Многие из них были посвящены советским морякам, а особенную известность получила песня «Прощайте, скалистые горы» на стихи Николая Букина.
После окончания войны Жарковский занимался созданием инструментальных произведений, работал в жанре музыкальной комедии и писал музыку для кинофильмов. Среди его послевоенных песен можно выделить «Ласточка-касаточка», «Женька», «Талисман» и многие другие. Евгений Эммануилович Жарковский скончался 18 февраля 1985 года и был похоронен в Москве на Кунцевском кладбище.