Режиссерским дебютом Климова стала комедия Добро пожаловать, или Посторонним вход воспрещен (1964), весело и сатирически остро рассказавшая о жизни детей и взрослых в летнем пионерском лагере. Продолжив свой опыт комедиографа фильмом Похождения зубного врача (о молодом стоматологе, превратившемся в объект поклонения целого города), режиссер встретил нарекания со стороны кинематографических чиновников. В 1967 фильм был положен «на полку».

В 1970 Климов предпринял любопытную попытку создания полнометражного монтажно-документального фильма с игровыми эпизодами (Спорт, спорт, спорт). Необычная для советского зрителя картина вызвало немалый интерес у молодежи; яркое впечатление производил «эмоциональный» монтаж, смысловое соединение различных фрагментов кинохроники, музыки А.Шнитке и стихотворных текстов Б.Ахмадуллиной.

Затем Климов обратился к совершенно новому для себя жанру и теме, поставив историческую драму о Григории Распутине и кризисе власти в предреволюционной России – Агония (премия Международного кинофестиваля в Венеции, 1982). На фоне абсолютного большинства других советских фильмов об этой эпохе, тенденциозно, пресно и исторически неточно отображавших ее события, фильм воспринимался как «дерзкая крамола». Агрессивный визуальный ряд картины, ядром которого стал А.Петренко в роли Распутина, ее эротические ассонансы, отсутствие, даже на периферии сюжета, героев «идеологически правильной» ориентации – все это вызвало категорические возражения высших советских руководителей. Картина была выпущена в прокат только через 7 лет после ее завершения. Следует признать, что даже в позднейших «постпересторечных» фильмах на экране не появилось более убедительных версий антираспутинского заговора и самих фигур Распутина и Николая II (актер А.Ромашин).

В фильме Иди и смотри (Золотой приз МКФ в Москве, 1985) по сценарию А.Адамовича Климов поставил своей задачей показать на экране жестокую правду борьбы белорусских партизан с немецко-фашистскими оккупантами. Главный герой фильма, пришедший к партизанам подросток Флера, стал во многом преемником образа Ивана из фильма А.Тарковского Иваново детство. В 1985, на Пятом съезде кинематографистов СССР, Климов был избран 1-м секретарем Союза кинематографистов.

Климов был женат на режиссере и актрисе Л.Шепитько, после смерти которой завершил начатый ею фильм Прощание. Характерной особенностью режиссуры Климова стала высокая, иногда нарочитая экспрессивность, достигаемая как монтажом, так и средствами актерской выразительности.