С осени 1937 г. Руденко Роман Андреевич занимал должности прокурора Николаевской области, затем прокурора Чернигова и зампрокурора Черниговской области. В октябре того же года Роман Андреевич занял пост прокурора Донецкой области УССР (с июня 1938-го переименована была в Сталинскую).

В 1940 г. будущий Генеральный прокурор СССР Роман Руденко поступает в Правовую академию, где оканчивает Высшие академические курсы.

После чего, с 1941 г. продолжает работу начальником отдела Прокуратуры по контролю за правоохранительными органами в Москве.

А затем, с 1942-го, Руденко Роман Андреевич возглавляет оперативную группу Прокуратуры Украинской ССР, которая боролась с засильем немецко-фашистских захватчиков.

С 1944 г. Роман Руденко занимает должность Главного прокурора УССР, и, благодаря ему, было очень много сделано для республики в тот период восстановления после оккупации.

После разгрома фашистской Германии, Иосиф Сталин делегирует прокурора Руденко Романа Андреевича представлять страну на Нюрнбергском процессе в качестве главного обвинителя. Аналога подобного процесса нет и по сей день. Главный прокурор УССР Руденко Роман Андреевич как судебный оратор настолько был грамотен и эмоционален во время выступлении в суде, что ему аплодировали стоя. Но добиться смертного приговора для преступников ему так и не удалось. Несмотря на это, Роман Руденко в одночасье стал знаменитым на весь мир.

Также в 1945 г. Главный прокурор УССР Руденко Роман принимал участие в «процессе шестнадцати», когда были осуждены представители беглого руководства Польши.

В 1953 г., после смерти Иосифа Сталина, Главного прокурора УССР Романа Руденко поставили на должность Генпрокурора СССР, и он занимал её до самой смерти.