Родился в городе Черкассы. После службы в армии работал пожарным, заочно окончил московский Теологический институт по специальности «дирижёр духовного хора». В 1990-х годах попал на прослушивание в Бернский оперный театр, после чего поступил в консерваторию в Берне; параллельно выступал в оперной студии при театре в городе Биле. В 1999 году принял участие в конкурсе Пласидо Доминго «Operalia»и стал одним из финалистов, что значительно поспособствовало международной карьере певца.
В репертуаре Ковалёва более 40 партий, среди которых король Филипп («Дон Карлос» Верди), Фиеско («Симон Бокканегра»), Захария («Набукко»), Банко («Макбет»), Рамфис («Аида»), Барбаросса («Битва при Леньяно»), Прочида («Сицилийская вечерня»), Падре Гуардиано («Сила судьбы»), Вальтер («Луиза Миллер») и заглавная партия в опере «Аттила». Также Ковалёв исполнял партию Каспара в опере «Вольный стрелок», партии Вотана и Странника в тетралогии Вагнера «Кольцо Нибелунга», Мефистофеля в опере «Фауст», Зарастро в опере «Волшебная флейта» и басовые партии в русских операх «Князь Игорь», «Борис Годунов» (Пимен), «Евгений Онегин» (князь Гремин) и «Мазепа» (Кочубей).
Дебют Ковалёва в США состоялся на сцене Нью-Йоркской городской оперы, где он исполнил партию Балтазара в опере «Фаворитка». Позже он пел на сцене Метрополитен-оперы и оперных театров Сан-Франциско, Вашингтона, Лос-Анджелеса и Филадельфии. В Европе Ковалёв выступал на сценах Королевского театра Ковент-Гарден, Баварской государственной оперы, Венской государственной оперы, театра Ла Скала, Арена ди Верона, Большого театра Лисеу, дрезденской Земперопер, Оперы Монте-Карло, Мариинского театра. Он поразил критиков, всего за 10 дней выучив партию Прочиды и заменив заболевшего коллегу в новой постановке оперы «Сицилийская вечерня» на сцене парижской Оперы Бастилии.
Среди записей Виталия Ковалёва – оперы «Богема» (Deutsche Grammophon, 2008), «Медичи» Леонкавалло (Deutsche Grammophon, 2010) и «Дон Жуан» (Deutsche Grammophon, 2012). Исполнил роль Коллена в фильме-опере «Богема», который поставил номинант на премии «Оскар» и «Эмми» Роберт Дорнхельм.