Родился Анатолий Яковлевич в деревне Якимовка Речицкого района, в простой крестьянской семье. Закончил Борщевскую семилетнюю школу, затем - Гомельский автомобильный техникум. В 1939 году ушёл в Красную Армию и ещё до начала войны окончил Харьковское военное авиационное училище.
Боевой путь лётчика начался уже с первых дней войны. Он сражался на Западном, Крымском, Северо - Кавказском, Закавказском, Ленинградском, 3-м Прибалтийском и 1-м Белорусском фронтах. Участвовал в обороне Севастополя, Ленинграда, Керчи.
Являясь лётчиком отдельного разведывательного авиаполка, Старший лейтенант А. Я. Коваленко совершил 173 боевых вылета, уничтожил 7 танков, 10 орудий, 15 вагонов и 30 автомашин с военным грузом, 15 огневых точек, в воздушных боях сбил 7 вражеских самолётов, 16 уничтожил на земле. Но главным в его боевой работе была воздушная разведка. Он прославился в полку как умелый и опытный разведчик. Во время разведочных полётов обнаружил 23 аэродрома, 15 оборонительных рубежей, около 50 переправ, сфотографировал 900 железнодорожных эшелонов противника.
С каждым месяцем росло мастерство лётчика. 7 раз он был сбит врагом, трижды ранен. В одном из боёв его машина получила более 100 пробоин. Но пилот вновь и вновь выводил свой самолёт на стартовую дорожку.
19 Ноября 1942 года экипаж Коваленко выполнял очередное боевое задание. В одиночку на машине Пе-2 необходимо было провести налёт на Краснодарский аэродром и разбомбить имевшиеся там вражеские самолёты, которых насчитывалось около 300: "Юнкерсы", "Хейнкели", "Мессершмитты". Отправляясь на задание, каждый знал, что аэродром с таким количеством боевых машин надёжно охранялся. Когда самолёт приблизился к аэродрому, враг его встретил сильным зенитным огнём. Выполнив противозенитный маневр, пилот направил машину вниз, а штурман в это время нажал на кнопку сброса и бомбы посыпались на лётное поле. 7 вражеских самолётов охватил огонь.
Затем экипаж взял направление к ещё одному аэродрому, напичканному немецкой техникой. Однако над станцией Северской на самолёт набросились 11 вражеских истребителей. Опытному лётчику удалось вырваться из огненного кольца и довести машину до города Горячий Ключ. И только здесь она загорелась. Попытки сбить пламя успеха не имели, дотянуть же до своего аэродрома было нереально: каждое мгновение грозило экипажу гибелью. В этот момент командир принял довольно дерзкое решение посадить самолёт на море.
Взрывная волна отбросила пилота метров на 60 от горящего самолёта, что и спасло лётчика, а его боевые товарищи погибли. Он ещё несколько часов продолжал бороться с морем один на один. Спасли Коваленко моряки боевого катера.
Затем были долгие месяцы лечения в одном из Сочинских санаториев, переведённых в военный госпиталь. И заключение медицинской комиссии: летать нельзя. Но всё же Анатолию Яковлевичу удалось убедить медиков, что не летать он не может, и те изменили формулировку, написав: "Пригоден к военной службе". Он был направлен в свой полк. И вновь полёты, полёты.
Указом Президиума Верховного Совета СССР от 22 Февраля 1945 года за мужество и героизм, проявленные в борьбе с немецкими захватчиками, А. Я. Коваленко было присвоено звание Героя Советского Союза. Кроме этого, он был награждён орденами Ленина, Красного Знамени, Отечественной войны 1-й степени, двумя орденами Красной Звезды, а также многими медалями.
С 1946 года Капитан А. Я. Коваленко в запасе. В 1951 году окончил Одесский педагогический институт и свою дальнейшую жизнь связал со школой: более 20 лет возглавлял педагогический коллектив Херсонской вечерней школы. С 1981 года - на заслуженном отдыхе.
Библиография:
1. Герои твои, Херсонщина. - Симферополь: Таврия, 1980. - С. 209-210.
2. Каваленка Анатоль Якаўлевіч: Біяграфія// Беларуская энцыклапедыя: У 18 т., т.7. - МН.: БелЭн, 1998. - С. 390.
3. Луговская, В. Никто не забыт, ничто не забыто: [О героях Советского Союза. Уроженцах Речицкого района]/ В.Луговская// Дняпровец. - 1995. - 15 апреля.
4. Стэльмашок, Ф. 3 племені адважных: [Пра Героя Савецкага Саюза А.Я. Каваленку]/Ф. Стэльмашок// Гом. праўда. - 1995. - 12 красавіка.
5. Шакаров, С.Ф. Герои Советского Союза, полные кавалеры ордена Славы Гомельщины/ С.Ф. Шакаров. -4-е изд., стер. - Гомель, 2005. — С. 69.