Родился в старинной, но небогатой дворянской семьи. Как это было принято в России той поры, дворянские дети мужского пола записывались в гвардию еще с младенчества. Ермолов, например, был записан в 1778 году, то есть на втором году жизни, каптенармусом лейб-гвардии Преображенского полка, а вскоре был произведен в сержанты. Получил образование дома и в Благородном пансионе при Московском университете. Обучился переплетному делу, полагая, что после прихода в Россию якобинцев придется зарабатывать на хлеб ремеслом. Военную службу начал в 15 лет - был привезен в Петербург, произведен в капитаны и зачислен в Нежинский драгунский полк старшим адъютантом, к генерал-поручику А. Н. Самойлову. В боевых действиях впервые принял участие при штурме предместья Варшавы в 1794 году, где семнадцатилетний юноша прекрасно проявил себя и был отмечен Александром Васильевичем Суворовым орденом Георгия 4-й степени. В 1796 воевал в Персии и вскоре был произведен в подполковники.
Распространение свободолюбивых западных веяний в России конца XVIII столетия захватило молодого Ермолова. Он стал членом политического кружка, руководимого его старшим братом по линии матери А. М. Каховским. А поскольку при аресте у Каховского было обнаружено письмо А. П. Ермолова, на котором тот весьма резко аттестовал армейское начальство, то… после ареста и допроса Ермолов был посажен в каземат Алексеевского равелина Петропавловской крепости!
Через два месяца после ареста он был отправлен в ссылку в Кострому.
Надо сказать, что "проживание в каземате и ссылке" отразилось на формировании характера Алексея Петровича, проявившись в проявлении ранее несвойственных ему замкнутости, скрытности, осторожности. С другой стороны, Ермолов оставался по-прежнему несгибаем, острым на язык, порой резким.
Он был отправлен к костромскому губернатору, для отправки в ссылку на Макарьевские леса, что на реке Унже.
Но сын губернатора оказался сотоварищем Ермолова по учению, и в повеление были внесены коррективы. Губернатор донес в Петербург, что в "целях более надежного наблюдения за ссыльным "преступником", он предпочитает оставить его в Костроме для личного за ним присмотра". Просьба эта была удовлетворена.
В 1801 после смерти Павла I в числе многих был прощен и продолжил службу, но был нелюбим А.А. Аракчеевым и начальством за "дерзость" и независимость. В кампаниях против Франции 1805 - 1807 командовал артиллерией авангарда и проявил мужество и умение. В 1808 Ермолов был произведен в генерал-майоры. В Отечественной войне 1812 он участвовал во всех крупных сражениях, особо отличившись в битвах при Смоленске, Бородине, Малоярославце и Березине. Во время заграничного похода русской армии Ермолов был начальником всей артиллерии и отлично дрался при Дрездене, Лейпциге, Кульме. Спрошенный Александром I, благоволившим к иностранцам, о желаемой награде, Ермолов ответил:
"Произведите меня в немцы, государь!",
чем вызвал восторг патриотично настроенных офицеров. В 1816 Ермолов был назначен командиром отдельного Грузинского корпуса и главнокомандующим гражданской частью на Кавказе ("проконсул Кавказа") и в Астраханской губернии и одновременно чрезвычайным и полномочным послом в Иране. Таким образом, Александр I отправил популярного генерала на окраину империи и приобрел завоевателя народов Северного Кавказа, начавшего долгую, но успешную для России Кавказскую войну 1817 - 1864 годов. Ермолов проводил колонизаторскую политику, полагая, что
"проконсул Кавказа жестокость здешних нравов не может укротить мягкосердечием".
Именем Ермолова горцы пугали своих детей. Ермолов строил крепости, дороги, способствовал хозяйственному развитию покоренных территорий. Ермолов знал о существовании тайных декабристских организаций, и его близость со многими из принявших участие в восстании 1825 года была хорошо известна.
В 1827 Николай I отправил Ермолова в отставку. Попытка Николая I использовать авторитет Ермолов на благо Отечества, заодно держа его под присмотром на службе в Государственном совете (1831 - 1839), не увенчалась успехом. Отойдя от государственных дел, Ермолов общался с Погодиным, Львом Толстым и многими знаменитыми современниками, собственноручно переплетал книги своей библиотеки и приводил в порядок свои мемуары. Ермолов выработал изумительный "тацитовский слог". Он просто и кратко писал по-русски, по-французски, по-латыни и оставил замечательные по литературной и исторической ценности "Записки". Ермолов стал героем литературных произведений Пушкина, Лермонтова, Жуковского и др.
Александр Сергеевич Пушкин писал Ермолову:
"Подвиги Ваши - достояние Отечества, и Ваша слава принадлежит России".
