Окончательно перешел на позиции авангардной архитектуры в период преподавания во Вхутемасе (Высшие художественно-технические мастерские, 1920), избрав не определенную конструктивистскую программу, а принцип вольной импровизации. Первым его произведением стал сравнительно небольшой павильон «Махорка» на Всероссийской сельскохозяйственной и кустарно-промышленной выставке (1923). В 1924 по эскизу Мельникова был сооружен сложный и в то же время крайне логичный по форме саркофаг для мавзолея В.И.Ленина. Вторым выставочным зданием, принесшим зодчему международную славу, явился ажурно-сквозной павильон СССР на Выставке декоративного искусства и промышленности в Париже (1925), который сам воспринимался публикой как элегантный экспонат. Характерные для обоих (не сохранившихся) павильонов консольно-подвесные конструкции наиболее масштабно-новаторски воплотились в проекте гаража для Парижа (1925). В отличие от парижского, два больших автобусно-грузовых гаража в Москве (1925), где архитектор предложил оригинальную систему «прямоточно»-свободного разъезда машин, были выстроены, однако искажены позднейшими перестройками (как и еще два его гаража, 1934–1936).

Всегда виртуозно учитывавший технические функции здания, Мельников, тем не менее, полемизировал с функционалистами, склонными полностью игнорировать образное начало. Его клубные постройки напоминают монументальные, самобытно разворачивающиеся в пространстве абстрактные скульптуры, – впрочем, уютные и удобные (клубы в Москве: имени И.В.Русакова, 1927–1929, завода «Каучук», 1927; и др.). Впрочем, и здесь реальные условия эксплуатации служили препоной для полного воплощения замыслов автора, предполагавшего, в частности, свободную трансформацию залов с помощью подвижных перегородок. В некоторых проектах (памятника Х.Колумбу (для Санто-Доминго, 1929) и театра имени МОСПС, 1931) мастер вводит кинетические структуры, двигающиеся вокруг центральной оси, причем в памятнике Колумбу движение должно было обеспечиваться силами самой природы – ветром и дождями.

Свободнее и полней всего Мельникову удалось реализовать свои идеи на практике в собственном доме в Кривоарбатском переулке (1928–1931); два его экстравагантных цилиндрических объема обогащены окнами – гигантским передним и менее крупными, зато необычно-шестиугольными задними; внутренние помещения решены как полуфантастический, хотя и весьма комфортабельный мир творческого труда, открывающийся с каждого шага в новом, неожиданном ракурсе.

Со временем деятельность Мельникова стала уже целиком «проективной», построить ему уже ничего не удавалось (особенно с середины 1930-х годов, когда за свои «фантазии» он был подвергнут резкой критике в печати). Некоторое время он продолжал интенсивно преподавать (после Вхутемаса – в Архитектурном институте, 1934–1937), в последние же десятилетия вел все более изолированный образ жизни в своей «башне».

Умер Мельников в Москве 28 ноября 1974.