Работы Малликена посвящены молекулярной спектроскопии, квантовой химии, разделению изотопов. Отказавшись от представления о статичности атомных орбиталей, Малликен предположил, что, когда атомы объединяются в молекулы, их электронная конфигурация изменяется, так что каждый электрон может быть обнаружен с какой-то вероятностью в окрестности любого ядра. Детальное рассмотрение волновых функций электронов в молекуле привело Малликена (совместно с Дж.Леннард-Джонсом и Ф.Хундом) к созданию одного из самых распространенных методов квантовой химии – метода молекулярных орбиталей (1928–1932). В 1932–1935 Малликен распространил этот метод на случай многоатомных молекул, используя теорию симметрии, классифицировал молекулярные орбитали. Предложенный Малликеном метод лежит в основе квантовой теории химической связи.

В конце 1930-х – начале 1940-х годов Малликен занимался изучением абсолютной интенсивности молекулярных спектров, заложив основы их теории (наряду с Ф.Хундом и Ю.Вигнером). При его участии создано несколько поколений программ для ЭВМ, с помощью которых удалось провести неэмпирические расчеты электронных конфигураций различных соединений.

Малликен состоял членом академий наук многих стран, награжден медалями Льюиса (1960), Дебая (1963), Гиббса (1965) и др.

Умер Малликен в Арлингтоне (шт. Виргиния) 31 октября 1986.