В 1954 Ньерере основал Африканский национальный союз Танганьики (ТАНУ). Неоднократно выступал в совете по опеке ООН. В 1958 ТАНУ стал достаточно сильной организацией, чтобы получить большинство голосов на выборах в местные законодательные органы. Когда в сентябре 1961 Танганьика получила ограниченное самоуправление, Ньерере занял пост главного министра. В мае 1961 он стал премьер-министром, а в декабре 1961 Танганьика обрела полную независимость. Спустя год Ньерере был избран президентом Танганьики, а после объединения в 1964 Танганьики и Занзибара стал президентом Объединенной республики Танзании.

Ньерере создал однопартийное государство, но разрешил членам партии вести между собой борьбу за места в парламенте. В 1967 заявил, что основой развития Танзании должна быть не иностранная помощь, а опора на собственные силы, национализировал коммерческие фирмы и поддерживал традиции деревенской общины.

В конце 1960-х годов Ньерере признал отделение Биафры от Нигерии и отказался признать режим Иди Амина в Уганде. После 1975 выступал за передачу власти в Родезии вооруженной организации Патриотический фронт. Стал одним из основателей Организации африканского единства (ОАЕ) в 1963, выступал с критикой политики белого меньшинства в Южной Африке, Намибии и Родезии.

Ньерере ушел в отставку в 1985, но оставался лидером Революционной партии вплоть до августа 1990. В течение 1990-х годов принимал участие в мирных инициативах, включая процесс политического урегулирования в Бурунди и Кении.

Умер Ньерере в Лондоне 14 октября 1999.