В 1965 Пензиас вместе с Р.Уилсоном приступил к измерениям радиошумов в сантиметровом диапазоне и изучению их источников, используя построенную фирмой «Белл» антенну специальной конструкции и высокочувствительный приемник. В ходе этих исследований они обнаружили постоянное слабое излучение, исходящее из любой точки небесной сферы. Сразу несколько исследователей истолковали это фоновое излучение как свидетельство начальной фазы расширения Вселенной (вслед за И.С.Шкловским его стали называть реликтовым). Существование подобного излучения, заполняющего Вселенную, было предсказано Г.А.Гамовым и его сотрудниками, построившими первую модель Большого Взрыва еще в 1948. Когда был получен спектр этого излучения (оно представляло собой излучение абсолютно черного тела с температурой около 3° К) и доказана высокая степень его изотропии, данное объяснение стало общепринятым. Открытие реликтового излучения – наряду с обнаружением красного смещения в спектрах далеких галактик – стало важнейшим событием в астрофизике 20 в. Оно подтвердило модель горячей Вселенной и позволило проанализировать многие аспекты теории образования галактик.

Пензиасом выполнен также ряд работ по радиоастрономии, в частности по структуре межзвездных облаков молекулярного водорода, различию изотопного состава молекул в межзвездном пространстве и на Земле.

Кроме Нобелевской премии, Пензиас награжден медалью Гершеля Лондонского Королевского астрономического общества.