Александр Васильевич Александров родился 1 (13) апреля 1883 года в
крестьянской семье в селе Плахино, входившем тогда в Михайловский
уезд Рязанской губернии (ныне Захаровский район Рязанской
области). С 1890 по 1892 год получил первичное образование в
народной школе, где также участвовал в церковном хоре.
В 1891 году его жизнь ознаменовалась переездом в Санкт-Петербург,
где он продолжил петь в хоре Казанского собора. В 1898 году
завершил обучение в певческой школе при Казанской церкви в Санкт-
Петербурге.
С 1897 года обучался в регентских классах Придворной певческой капеллы (современное Хоровое училище имени Глинки), после окончания которых в 1900 году получил квалификацию регента. Впоследствии поступил в Санкт-Петербургскую консерваторию, где изучал композицию под руководством А. К. Глазунова и А. К. Лядова. Однако в 1902 году из-за болезни и финансовых трудностей был вынужден прервать обучение и переехать в Бологое, где работал регентом соборного хора и преподавал хоровое пение в железнодорожном училище.
С 1906 года работал в Твери регентом архиерейского хора Спасо-Преображенского собора, а также руководил хорами в различных учебных заведениях, включая Тверскую духовную семинарию. В этот период им были созданы симфония и симфоническая поэма «Смерть и жизнь».
В 1909 году возобновил обучение в Московской консерватории, которую окончил в 1913 году с большой серебряной медалью по классу композиции под руководством С. Н. Василенко, а в 1916 году — по классу вокала у У. Мазетти. С 1913 года он вновь в Твери, где с оркестром, солистами и хором осуществил постановку оперы «Пиковая дама» (1913) и представил публике фрагменты из опер «Евгений Онегин» (1914) (обе — П. И. Чайковского), «Фауст» Ш. Гуно, «Жизнь за царя» М. И. Глинки и «Русалка» А. С. Даргомыжского. В этих постановках он выступал как режиссёр, дирижёр, хормейстер, а порой и как вокалист. В одном из домашних музыкальных представлений он исполнил партию Ленского из «Евгения Онегина», а в «Пиковой даме» — партию Чекалинского. В 1915 году в Твери он основал и возглавил музыкальную школу, которая, однако, прекратила существование в 1918 году из-за его переезда в Москву.
С 1918 года преподавал сольфеджио, полифонию, дирижирование и хоровое мастерство. С 1926 по 1929 год заведовал хоровым классом на инструкторско-педагогическом факультете, а с 1932 по 1934 год возглавлял кафедру хорового исполнительства. С 1940 года был деканом дирижёрско-хорового факультета, а с 1942 года — деканом объединённого дирижёрско-хорового и музыкально-педагогического факультетов Московской консерватории. Среди его воспитанников такие известные музыканты, как К. Б. Птица, В. Г. Соколов, Д. Б. Кабалевский и К. П. Кондрашин. В 1928 году инициировал создание военно-капельмейстерского класса, который стал основой для военного факультета Московской консерватории, и с 1929 по 1936 год был заместителем декана этого факультета.
С 1928 года он был организатором и музыкальным руководителем, а с 1937 года стал начальником, художественным руководителем и главным дирижёром Ансамбля красноармейской песни Центрального дома Красной Армии имени М. В. Фрунзе (ныне Ансамбль песни и пляски Российской армии имени А. В. Александрова). С этим коллективом он объездил Советский Союз и побывал в ряде зарубежных стран, получив в 1937 году «Гран-при» на Всемирной выставке в Париже. Параллельно, с 1936 года, он также являлся художественным руководителем Ансамбля песни и пляски ЦДКЖ, а в 1937 году инициировал создание и стал художественным руководителем Ансамбля песни и танца Московского городского дворца пионеров и октябрят (сейчас — Ансамбль песни и пляски имени В. С. Локтева). В годы Великой Отечественной войны он создал такие известные песни, как «Священная война» (июнь 1941 года), «В поход! В поход!» и «Несокрушимая и легендарная».
В 1943 году на основе своего произведения «Гимн партии большевиков» Александров создал мелодию, которая с 1944 года была утверждена в качестве государственного гимна СССР. Текст был написан Г. А. Эль-Регистаном и С. В. Михалковым при частичной редакции И. В. Сталина. С 2000 года эта мелодия является основой для Гимна России.
Он был членом Союза композиторов СССР. Ушёл из жизни от инфаркта 8 июля 1946 года в Берлине в возрасте 63 лет во время гастролей Краснознамённого ансамбля. Похоронен 10 июля на Новодевичьем кладбище.