Родился 21 февраля 1924 в Кутаме, где у власти находилось правительство белого меньшинства. После учебы в католических школах и работы учителем в 1942–1949 получил стипендию для обучения в Университетском колледже в Форт-Хейере в Южной Африке, который окончил в 1951. В 1956 переехал в Гану. Вернувшись на родину в 1960, занял пост секретаря по общественным связям в аппарате Национально-демократической партии во главе с Джошуа Нкомо. В 1961 партия была запрещена, а затем вновь зарегистрирована под названием Союз африканского народа Зимбабве (ЗАПУ). В 1963 Мугабе порвал с ЗАПУ и создал партию Африканский национальный союз Зимбабве (ЗАНУ).

Правительство Южной Родезии, опасаясь, что Великобритания в качестве условия предоставления независимости потребует начать процесс передачи власти правительству африканского большинства, запретило деятельность всех политических партий, их лидеры были арестованы, в том числе и Мугабе, который провел в заключении 11 лет.

После освобождения Мугабе возглавил ЗАНУ, которая к 1979 располагала вооруженными отрядами в 20 тыс. бойцов. Мугабе, называвший себя марксистом, представлял наиболее радикальное крыло партии, что, однако, не помешало ему вступить в союз с возглавляемой Джошуа Нкомо ЗАПУ и образовать Патриотический фронт.