В 1954 Рабин стал бригадным генералом, командовал израильскими силами обороны, затем начальником генерального штаба. Командовал армией во время шестидневной войны 1967. Уволился из вооруженных сил в январе 1968.

В 1968–1973 Рабин – посол Израиля в США. В марте 1973 стал депутатом кнессета. Когда правительство Г.Меир ушло в отставку в апреле 1974, Партия труда поручила Рабину сформировать новый кабинет. Рабин ушел в отставку с постов премьер-министра и лидера партии в апреле 1977.

Вернулся в политику в 1984, став министром обороны в правительстве «национального единства», в которое вошли представители Партии труда и Ликуда. В 1987 Рабин приказал израильской армии ответить на интифаду «мощью, силой и ударами», что укрепило его репутацию жесткого политика. В феврале 1992 сменил Шимона Переса на посту лидера Партии труда. Четыре месяца спустя возглавляемая Рабином Партия труда добилась успеха на национальных выборах. Рабин был утвержден на пост премьер-министра 13 июля 1992, после сформировал трехпартийное левоцентристское коалиционное правительство. В сентябре 1993 подписал с Ясиром Арафатом соглашение о введении ограниченного палестинского самоуправления, за которым последовал вывод израильских войск с большей части территории сектора Газа и города Иерихон на Западном берегу. Мирный процесс продвинулся в октябре 1994, когда Рабин и король Иордании Хусейн подписали договор о мире и установлении дипломатических отношений.

Рабин был убит в Тель-Авиве 4 ноября 1995.