Родился 6 января 1621 в семье можайских дворян. Был послан на военную службу на Украину. В 1652, узнав о смерти жены и детей, принял монашеский постриг в киевском Межигорском монастыре. Возможно, учился в Киевской духовной академии. Приглашен в 1657 патриархом Никоном в Иверскую, а затем в Новоиерусалимскую обитель. Архимандрит Чудова монастыря в Кремле (1664), поставлен в митрополиты Новгородские (1672), однако оставался в основном в столице, управляя делами при больном патриархе Питириме. На патриаршем престоле с 1674.

Патриарх сразу закрыл Монастырский приказ и тем самым начал последовательно низводить роль светских чиновников в делах церковного управления до минимума. Вывел священнослужителей из сферы действия мирского суда, препоручив им сбор церковной дани (установив единую норму последней) и оградив от местнического произвола; в то же время упорядочил границы епархий, тем самым приглушив по возможности архиерейские своеволия. Все это было закреплено решениями соборов 1675–1687. Таким образом, демонстрируя непримиримость к опальному Никону (многократно отказавшись вернуть его из ссылки), Иоаким фактически явился продолжателем его дела. Стремлению Иоакима возвысить «священство над царством», усиливая первосвятительскую власть, способствовал и тот факт, что цари в тот период чередовались весьма часто. Укреплению авторитета церкви должно было способствовать и учреждение Славяно-греко-латинской академии (1687).

При этом Иоаким проявлял крайнюю нетерпимость по отношению к расколу и инославным вероисповеданиям, усиливая контроль за находящимися в обращении религиозными текстами и изображениями, добиваясь максимальной карательной активности гражданских властей. Так, пойдя в 1682 на публичный диспут с популярным «расколоучителем» Никитой Пустосвятом, через несколько дней, ввиду опасности бунта, способствовал его казни. Настаивал на принятии строжайших соборных постановлений против католических и лютеранских влияний, в духовном завещании призвав запретить строительство костелов и инославную проповедь.