Перейдя в политику, Черновецкий возглавил Христианско-либеральную партию Украины. Очень симпатизирует церкви Посольство Божье (старший пастор — Сандей Аделаджа), в то же время называет себя православным.

Черновецкий трижды избирался народным депутатом Украины (в 1996, 1998 и 2002 гг.). В Верховной раде IV созыва (2002-2006 гг.) был членом комитета по вопросам бюджета и председателем подкомитета по вопросам контроля за расходованием средств госбюджета. Входил во фракцию Наша Украина.

С апреля 1997 по январь 2000 года был внештатным советником президента Виктора Ющенко.

Член Высшего экономической совета президента (с 07.1997 г. по 11.2001 г.). Президент ассоциации «Киевский банковский союз» с 2001 года.

Сопредседатель партии «За красивую Украину» (с 10.1998 г. по 06.1999 г.), председатель партии «За красивую Украину» (с 06.1999 г. по 11.2000 г.), член президиума Партии регионального возрождения «Трудовая солидарность Украины» (с 11.2000 г.).

Весной 2006 года был избран мэром Киева (основными соперниками в гонке были знаменитый боксер-тяжеловес Виталий Кличко и экс-мэр столицы Александр Омельченко) и назначен председателем КГГА, занял пост председателя Киевского горсовета.

Кроме того, в четвертый раз прошел в народные депутаты Украины (по списку блока «Наша Украина»). Почти полгода не решался сдать депутатский мандат, несколько раз получая отсрочку Центризбиркома. По версии наблюдателей, Леонид Черновецкий опасался, что не сумеет удержаться в кресле столичного мэра, и потому пытался подольше сохранить за собой запасное место во власти.

Вскоре после выборов его отношения с депутатами Киевсовета от Блока Юлии Тимошенко, Нашей Украины и группой Виталия Кличко превратились в критические, достигнув стадии неприкрытой политической войны. Осенью 2006-го сессии Киевсовета стали настоящим полем битвы, на котором дело неоднократно доходило до откровенного рукоприкладства. Главными поводами для конфликтов были решение горадминистрации о повышении тарифов на ЖКХ-услуги более чем в 3 раза, а также активное и сомнительное, по мнению оппонентов, распределение земельных участков. В результате антимэрская оппозиция в Киевсовете при поддержке других политических сил и общественных организаций стали пытаться организовать общегородской референдум о недоверии Черновецкому.

Через полтора года в результате досрочных парламентских выборов укрепившийся во власти БЮТ сумел «продавить» в парламенте вопрос о досрочных выборах столичного мэра и депутатов Киевсовета. Впрочем, долгая борьба за изменение «рисунка» столичной власти противникам Черновецкого и его команды практически ничего не дала. В мае 2008-го он снова стал киевским градоначальником, а первое место на выборах в горсовет взял блок его имени.

Однако вскоре после президентских выборов 2010 г., в которых победил Виктор Янукович, Черновецкий был отстранен от управления городом, а первую роль в столице стал играть Александр Попов, назначенный заместителем главы КГГА. В ноябре того же года Черновецкий был освобожден от должности председателя Киевгоргосадминистрации. Ее возглавил Попов.

1 июня 2012 года, за два дня до истечения срока полномочий, Черновецкий написал заявление об отставке с поста Киевского городского головы. 12 июля Киевсовет удовлетворил это заявление.

В этот же день он заявил о своем новом проекте — создании инвестиционной компании своего имени — Chernovetskyi Investment Group (CIG).

Баллотироваться в Верховную Раду VII созыва не стал.