Алексей Экимян родился в 1927 году в городе Баку. Его маме едва исполнилось шестнадцать лет. После того, как отец оставил семью, воспитание мальчика легло на плечи семьи дяди по материнской линии, служившего в армии. В 1933 году в Ереване Экимян начал обучение не только в обычной школе, но и в музыкальной, где изучал скрипку, однако курс музыкального образования остался незавершенным.
С началом Великой Отечественной войны он бросил обе школы и устроился работать на железную дорогу, чтобы обеспечивать себя. С 1944 года он принимал участие в восстановлении разрушенного войной Харькова, где познакомился с ветеранами, которые убедили его поступить на службу в органы внутренних дел. Под их влиянием он завершил обучение в вечерней школе в Харькове.
В 1946 году Экимян вернулся в Ереван и начал свою карьеру в милиции. В 1947 году его направили на учебу во Владимирскую среднюю школу милиции. В 1954 году он успешно сдал вступительные экзамены в Высшую школу МВД СССР в Москве. Во время учебы он активно участвовал в художественной самодеятельности, где повстречал свою будущую жену, Валентину Михайловну Карпову, певицу хора.
В 1957 году, к проведению международного фестиваля молодежи в Москве, он написал свою первую музыкальную композицию – «Фестивальный вальс», которая завоевала первое место на конкурсе художественной самодеятельности МВД СССР и была отмечена почетной грамотой. С 1957 года, после окончания учебы, Экимян, получив звание старшего лейтенанта, возглавил Красностроительское отделение милиции в Московской области. Впоследствии он руководил Бирюлёвским отделением милиции и городским отделом милиции в Серпухове.
В 1963 году, в звании подполковника, он стал начальником уголовного розыска Московской области. Благодаря своей порядочности и умению поддерживать порядок на вверенных ему территориях, он быстро поднимался по карьерной лестнице, дослужившись до генеральского звания. Его сослуживцы даже не подозревали о его увлечении музыкой.
В 1969 году он создал свою первую песню под названием «Случайность» на стихи Е. Долматовского, которая впервые прозвучала в эфире радио в 1975 году в исполнении Анны Герман. В 1970 году Экимяну было присвоено звание «генерал-майор милиции». В 1972 году Алексей Экимян написал цикл песен «Моя Армения» на стихи Ашота Граши. Эти песни принесли ему неожиданный успех и широкую известность на его родине.
В 1973 году, по рекомендации Арама Хачатуряна и Оскара Фельцмана, Экимян был принят в Союз композиторов СССР. Членский билет ему вручил лично первый секретарь Союза Тихон Хренников. В марте 1973 года он организовал свой первый крупный творческий вечер в московском Доме кино. В конце того же года он подал рапорт об отставке по состоянию здоровья. Он организовал небольшой творческий коллектив и выступал с концертами по различным городам страны. Он начал сотрудничать с Робертом Рождественским. В 1981 году был выпущен альбом «Пожелание», в который вошли десять песен Экимяна в исполнении Вахтанга Кикабидзе.
Несмотря на две успешные карьеры – в качестве генерала и композитора – Алексей Экимян оставался скромным человеком. Многие его знакомые узнали о его огромной популярности в Армении только после его смерти. Создав в начале 1970-х годов несколько армянских циклов, включающих около 80 песен на стихи армянских поэтов, он стал национальным героем в Армении. В те же годы Алексей Гургенович был удостоен почетного звания заслуженного деятеля искусств Армении.
Песни Экимяна исполняли такие известные исполнители, как Анна Герман, Людмила Зыкина, Иосиф Кобзон, Вахтанг Кикабидзе, Муслим Магомаев, Лев Лещенко, Николай Гнатюк, Георгий Минасян, Лусине Закарян, София Ротару, Нани Брегвадзе, а также вокально-инструментальные ансамбли «Самоцветы», «Пламя», «Арника» и другие.
Алексей Гургенович пережил три инфаркта. На его здоровье негативно сказались как напряженная работа в уголовном розыске, так и творческие переживания. Экимян скончался внезапно 24 апреля 1982 года в госпитале МВД, не дожив до 55-летнего возраста. Причиной смерти стала болезнь сердца. По настоянию правительства Армении его похоронили в Ереване.