В 1979 году окончил Высшее театральное училище имени Б. В. Щукина при театре им. Евг. Вахтангова (курс А. А. Казанской) и был принят в труппу театра «Ленком». В 1997 году получил звание заслуженного артиста России.
В кино Андрей Леонов долгое время практически не снимался. За два десятка лет можно отметить лишь одну из главных ролей в драме Владимира Басова «Время и семья Конвей» (1984) и небольшую роль второго пилота в фантастическом фильме Юрия Мороза «Подземелье ведьм» (1990). Кроме того, зрители могли увидеть Андрея Леонова в телевизионных постановках спектаклей Ленкома «Дорогая Памела» и «Тени». На телеэкраны Андрей Леонов вернулся спустя десять лет, когда снялся в роли следователя в детективном сериале «Женская логика» и в сериале «На углу у Патриарших-2». Затем Андрей снялся в сериале Эльдора Уразбаева «Богатство» по одноименному роману Валентина Пикуля. А в 2005 году сыграл Александра Сахарова, соратника, сподвижника и друга Есенина в сериале «Есенин».
В 2007 году на телеэкраны вышел сериал «Папины дочки», где Андрей Леонов сыграл главную роль — психотерапевта и многодетного отца Сергея Васнецова. От его героя уходит жена, оставив с целой оравой дочек. Сериал — реалистичная смесь очень грустного и очень смешного. Потому он так полюбился зрителям, а самому Андрею принес необыкновенную популярность.