Народився 5 січня 1939 р. у с. Пальміра Золотоніського району Полтавської (нині — Черкаської) області.Середню школу закінчив з медаллю.У 1962 р. закінчив гідромеліоративний факультет Українського інституту інженерів водного господарства (нині — Національний університет водного господарства та природокористування).Протягом 1962—1974 рр. — старший інженер, керівник групи, завідувач відділу, заступник головного інженера інституту Укрдіпроводгосп Міністерства меліорації і водного господарства УРСР; 1974—1987 рр. — директор Українського науково-дослідного інституту гідротехні­ки і меліорації; 1987—1990 рр. — генеральний директор Всесоюзного науково-виробничого об'єднання УкрНДІГіМ і директор інституту, з 1990—2011 рр. — директор Інституту гідротехніки і меліорації (нині — Інститут водних проблем і меліорації НААН). Одночасно в 1996— 2001 рр. — віце-президент УААН, а у 2001—2006 рр. — академік-секретар Відділення землеробства УААН. Нині — радник директора інституту.Упродовж 1966—1970 рр. навчався в аспірантурі (заочне відділення) Київського інженерно-будівельного інституту під керівництвом професора В. В. Смислова.У 1970 р. в Українському інституті інженерів водного господарства захистив кандидатську дисертацію на тему: «Дослідження пристроїв для автоматичного регулювання рівнів води в каналах зрошувальних систем», а у 1975 р. у Московському гідромеліоративному інституті — докторську дисертацію на тему: «Принципи проектування та методи розрахунків міжгосподарської автоматизованої меліоративної мережі рівнинних територій».Наукова діяльність П. І. Коваленка пов'язана з галуззю меліорації і водного господарства. Розроблені вченим методи уніфікації і типі­зації інженерних рішень у водогосподарській галузі отримали широке практичне застосування при розробці типових проектів, будівництві й експлуатації гідротехнічних комплексів в Україні та за кордоном.Під керівництвом і за безпосередньою участю П. І. Коваленка створено перші в Україні зрошувальні системи з автоматизованим управлінням процесами водорозподілу і поливу, розроблено принципи й методологію технічно досконалих конструкцій осушувально-зволожувальних систем. Розроблено концептуальні основи і технології управління процесами водорозподілу та водорегулювання, створення систем автоматизованого управління і комплексу технічних засобів їхньої реалізації; концепцію і методологію реконструкції діючих меліоративних систем з урахуванням сучасних критеріїв ресурсозбереження й екологічних вимог.Наукові розробки було реалізовано у першому в Радянському Со­юзі нормативному документі «Настанови щодо проектування автома­тичного водорозподілу на зрошувальних системах». Технологію авто­матичного водорозподілу і водорегулювання — у проекті найбільшої в Україні і на Європейському континенті — Каховській зрошувальній системі. Усе це було основою докторської дисертації П. І. Коваленка.Починаючи з кінця 60-х років з метою раціонального використання води на зрошувальних системах за ініціативою П. І. Коваленка усі проектні організації України перейшли на проектування систем з каскадним регулюванням у каналах та автоматизацію водорозподілу. Багато­планові дослідження П. І. Коваленка було покладено в основу розроб­леної наукової Концепції розвитку водних меліорацій в Українській РСР, затвердженої Південним відділенням ВАСГНІЛ у 1990 р.П. І. Коваленком опубліковано понад 400 наукових праць, 14 книг, в тому числі 1 підручник. Його розробки захищено 24 авторськими свідоцтвами та патентами. За науковою редакцією вченого опубліковано 56 наукових збірників, книг та наукових праць з питань гідротехніки і меліорації земель, водного господарства, технології будівництва й експлуатації гідромеліоративних систем.У 1982 р. присвоєно вчене звання професора. За значний вклад у розвиток науки Росії та інших країн СНД П. І. Коваленка обрано дій­сним членом (академіком) Російської академії сільськогосподарських наук, а у 2001 р. — членом Італійської сільськогосподарської академії «Оеощойїі» (м. Флоренція).Обрано академіком УААН у 1990 р.Працюючи віце-президентом УААН у 1996—2000 рр., здійснював координацію наукових організацій Академії, окрім Відділення еконо­міки, очолював і проводив реформування наукових установ, запрова­джуючи систему науково-методичних центрів, галузевих інститутів та центрів наукового забезпечення регіонів на зразок існуючих у світовій практиці Міжнародних наукових центрів в аграрній галузі.У 1975—1990 рр. був членом Президії Південного відділення ВАСГНІЛ, а у 1990—2011 рр. — членом Президії НААН. Тривалий час П. І. Коваленко був членом Комітету з присудження Державних пре­мій України в галузі науки і техніки.Вченим створено школу наукових, педагогічних та інженерних кадрів, які плідно працюють у різних наукових установах і організаціях в Україні та за кордоном. Під його керівництвом захищено 26 кандидатських та 8 докторських дисертацій.Проводить роботу з міжнародного наукового співробітництва з багатьма країнами: голова Національного комітету Міжнародної комісії з іригації і дренажу (МКіД), а також Національного комітету Міжнарод­ної асоціації гідравлічних досліджень; експерт Європейської комісії з моніторингу басейну р. Дунай; міжнародний експерт щодо реформу­вання аграрної науки; керівник групи сталого управління зрошуваль­ними системами; голова групи країн з соціально-економічною транс­формацією та заступник голови Комітету внутрігосподарських систем Міжнародної комісії з іригації і дренажу.У 2007—2011рр. — віце-президент Міжнародної комісії з іригації і дренажу, нині — почесний віце-президент МКіД.Головний редактор наукових збірників і член редколегії наукових та науково-виробничих журналів: «Вісник аграрної науки», «Меліорація і водне господарство» (Росія), «Водне господарство України», «Меліо­рація і водне господарство» (Польща).З 1978 р. — голова спеціалізованої вченої ради із захисту кандидатських і докторських дисертацій із спеціальності сільськогосподарські меліорації (технічні та сільськогосподарські науки). За цей період за­хищено близько 50 докторських і 380 кандидатських дисертацій.Досягнення академіка П. І. Коваленка отримали високу державну оцінку. Він лауреат Державної премії України в галузі науки і техніки (1998), лауреат Премії Української академії аграрних наук «За видатні досягнення в аграрній науці», йому присвоєно почесне звання заслуженого діяча науки і техніки України, нагороджено орденами «Знак Пошани» і «За заслуги» ІІІ і ІІ ступенів, багатьма медалями.