Его отношения с Дэн Сяопином завязались во время китайско-японской (1937–1945) и гражданской (1946–1949) войн. В середине 1952 Дэн и Ху переехали в Пекин. Ху Яобан был избран руководителем Коммунистического союза молодежи Китая, а Дэн стал его начальником, получив пост генерального секретаря КПК и возглавив работу с руководящим аппаратом партии. Возглавляемый Ху Яобаном комсомол играл роль кузницы кадров для партии.

Ху стал одной из первых жертв инспирированной Мао Цзэдуном «культурной революции» и провел несколько лет в заключении (1966–1973). В апреле 1976, в связи с новой опалой Дэн Сяопина, он вновь исчез из поля зрения общественности и появился на политической арене лишь после реабилитации Дэна в июле 1977.

По мере того как влияние Дэна усиливалось, Ху получал важные посты в системе партийной бюрократии и в декабре 1978 был введен в состав политбюро ЦК КПК. В феврале 1980 стал членом Постоянного комитета политбюро и избран генеральным секретарем ЦК КПК. Главной задачей Ху Яобана стало противодействие консерваторам, а также выдвижение на руководящие посты молодых коммунистов. После снятия в июне 1981 Хуа Гофэна к Ху Яобану перешел пост председателя ЦК КПК, упраздненный в сентябре 1982.

В конце 1986 в Китае повсеместно прошли студенческие демонстрации с требованиями продолжения демократических реформ. 12 января 1987 Ху Яобан был вынужден уйти с поста генерального секретаря. Умер Ху Яобан в Пекине 15 апреля 1989.