Первые работы Койпера посвящены звездной астрофизике. Исследуя двойные звезды – визуальные, спектральные, затменные, он пришел к выводу, что среди ближайших к Солнцу звезд не менее половины принадлежат к двойным или кратным системам. В 1937 построил диаграмму «спектр – светимость» для галактических звездных скоплений и сопоставил ее с расчетными треками звездной эволюции. С 1940-х годов занимался спектроскопическим исследованием планет. В 1947 первым обнаружил преобладающий компонент атмосферы Марса – диоксид углерода, открыл атмосферу на спутнике Сатурна Титане, зарегистрировал в его спектре метан. Определил содержание водяных паров и изотопный состав диоксида углерода в атмосфере Венеры. В 1943–1944 измерил видимый диаметр Плутона, в 1948 открыл пятый спутник Урана – Миранду, в 1949 второй спутник Нептуна – Нереиду. В связи с началом исследования Луны космическими аппаратами проводил многочисленные фотографические наблюдения ее поверхности. Был руководителем программы фотографирования Луны с космических аппаратов серии «Рейнджер», создания фотографических атласов Луны. Описал различные объекты на поверхности Луны. В 1950-е годы развивал оригинальные идеи относительно космогонии звезд с планетными системами, согласно которым они образуются из дозвездных облаков, сжимающихся с сохранением углового момента.