Родился 31 октября 1934 года в Ленинграде.
В 1951 году начал увлекаться театром и стал играть в народном театре Выборгского Дворца культуры.
В 1958 году окончил Ленинградский театральный институт имени А. Н. Островского
После выхода на экраны фильма «Завтрашние заботы» был принят в Ленинградский театр имени Ленинского комсомола. Отыграв там два сезона, в 1966 году перешёл втеатр имени Комиссаржевской, но через пять лет покинул и этот коллектив. Актёра неудержимо влекло кино. С 1971 года Азо стал штатным артистом киностудии «Ленфильм» и работал там до начала 1990-х годов.
Его много снимали, и, в основном, в главных ролях, что позволило ему в 1970-1980-е годы стать известным актёром. Основным амплуа Анатолия Азо был социальный герой. Ему много пришлось играть военных, моряков, рабочих, руководящих работников. Хотя сам актёр всегда тяготел к характерным ролям, но сыграть их ему фактически не пришлось.
Умер 25 ноября 2007 года в Санкт-Петербурге.