После училища в период с 1979 по 1983 год служил в различных должностях в отдельном гвардейском инженерно-саперном батальоне гвардейской воздушно-десантной дивизии.

В период с 1983 по 1984 год служил в должности начальника учебного центра.
С 1984 по 1987 год Михаил Коваль проходил службу на должности заместителя командира батальона и командира батальона в гвардейском парашютно-десантном полку гвардейской воздушно-десантной дивизии.

В 1990 году закончил Военную Академию имени Фрунзе.

В период с 1990 по 1995 год Коваль служил на должности заместитель начальника, после чего стал начальником учебного центра подготовки младших специалистов воздушно-десантной бригады.

В 1997 году закончил обучение в Академии Вооруженных Сил Украины (на сегодняшний день — Национальный университет обороны Украины имени Ивана Черняховского).

В период с 1997 по 1999 год Михаил Коваль служил начальником штаба командир танковой дивизии армейского корпуса Северного оперативного командования.

С 1999 по 2001 год проходил службу в должности начальника штаба — первого заместителя командующего армейского корпуса Западного оперативного командования.

С 2001 по 2002 год — начальник штаба — первый заместитель начальника Главного управления внутренних войск МВД Украины.

С 2002 по 2003 год — первый заместитель Председателя Госкомитета по делам охраны государственной границы Украины — Командующего Пограничных войск Украины.

С 2003 года Коваль служил первым заместителем Председателя Государственной пограничной службы Украины — директором Департамента по работе с личным составом.

25 марта 2014 года Верховной Радой Украины назначен и.о. министра обороны Украины, на этом посту находился до 3 июля 2014 года.