Работы Гелл-Мана посвящены квантовой теории поля, ядерной физике, симметрии слабых и сильных взаимодействий. В 1953 он ввел понятие «странности» – квантового числа, сохраняющегося при сверхсильных взаимодействиях. Предсказал существование новых частиц – S⁰- и X⁰-гиперонов. В 1955 разработал теорию нейтральных К-мезонов. Совместно с Р.Фейнманом создал теорию слабых взаимодействий.

В 1961 Гелл-Ман предложил, независимо от израильского физика Ю.Неемана, систематику элементарных частиц, объединив их в супермультиплеты из 1, 8, 10 или 27 членов, исходя из различных свойств (система симметрий Гелл-Мана – Неемана). С помощью этой систематики предсказал существование новой элементарной частицы – W^–-гиперона, обнаруженного экспериментально в 1964. Гелл-Ман высказал предположение, что все участвующие в сильных взаимодействиях частицы представляют собой комбинации трех основных «строительных модулей», которые он назвал кварками. Кварки имеют дробный заряд, равный +2/3 или –1/3. Три кварка образуют барион, а кварк и антикварк – мезон. В 1973 Гелл-Ман независимо от других ученых выдвинул гипотезу глюонов. Проблемам современной физики, ее эволюции посвящена научно-популярная книга Гелл-Мана Кварк и ягуар (The Quark and the Jaguar, 1994).