Родился 11 (23) октября 1846 г. с. Ст. Тезиково Пензенской губернии в семье священника, окончил Пензенскую духовную семинарию. Теорией музыки занимался у Н. М. Потулова. С 1862 г. — регент архиерейского хора в Пензе. В начале 70-х гг. — вольнослушатель хирургического отделения Военно-медицинской академии, а затем — студент химического факультета Технологического института. В 26 лет сдал экзамен в Придворной певческой капелле на звание регента. Был регентом хоров Саперного батальона, Конногвардейского полка. Преподавал сольное и хоровое пение в женском Патриотическом институте, Александровском лицее, Екатерининском женском училище, Музыкальном институте и других учебных заведениях. В 1902–1908 гг. был руководителем и педагогом организованных им бесплатных курсов хорового пения.
Александр Андреевич создал смешанный хор (вначале из 20, впоследствии насчитывавшем до 90 чел.) и возглавлял его до 1923 г.
В практике церковного пения Архангельский сделал нововведения, заменив в церковных хорах детские голоса мальчиков на женские голоса.
Первые программы хора включали русские, славянские и западноевропейские народные песни. С 1886 г. репертуар хора пополнила русская церковная и светская музыка XVII–XIX вв., западноевропейская музыка различных эпох и стилей; множество произведения хор исполнял в России впервые. Исполнительский уровень хора был чрезвычайно высок. Хор совершал гастрольные поездки по России (более 50 городов), Польше, Финляндии, в 1907 и 1913 гг. выступал в Германии, участвовал в концертах РМО, Русских симфонических концертах М. П. Беляева, в общедоступных симфонических концертах А. Д. Шереметева, в частных антрепризах А. И. Зилоти, С. А. Кусевицкого, в спектаклях Мариинского театра и др. Архангельский создал Санкт-Петербургское певческое благотворительное общество, объединившее все хоры Санкт-Петербурга. В 62 концертах объединенного хора в составе до 600 человек было исполнено 125 сочинений. С 1906 г. Александр Андреевич — главный инспектор Святейшего Синода по устройству и инспектированию церковных хоров, в 1923 г. возглавил Общестуденческий русский хор в Праге, который впоследствии носил его имя.
Написал две оригинальные литургии, всенощную и до 50 мелких сочинений, в том числе 8 херувимских песен, 8 гимнов «Милость мира», 16 песнопений, употребляемых при богослужении вместо «причастных стихов».
В октябре 1921 г. в Петрограде Архангельский отпраздновал 50-летие своей музыкальной деятельности, ему было присвоено звание заслуженного артиста Республики.
Умер в Праге.