Сообщения о характере и деятельности синедриона, встречающиеся в раввинистической литературе, расходятся с сообщениями у Иосифа Флавия и в Новом Завете. Это породило гипотезу, что в Иерусалиме одновременно действовали два высших судебных органа. Тот, что фигурирует у Флавия и в Новом Завете, являлся государственным судом, а другой, упоминаемый в раввинистической литературе как «санхедрин гедола» («Великий синедрион»), был чисто религиозным судом и состоял из 71 человека. Это отчасти подтверждается сообщением Флавия, что в 57 до н.э. римский наместник Сирии разделил Палестину на пять областей, в каждой из которых был учрежден свой синедрион, в чьей компетенции находились политические, уголовные и гражданские дела. Иерусалим, где уже был синедрион, стал местом пребывания одного из пяти судов.

В политической сфере синедриону предшествовал судебный орган, который назывался «герусия» (греч. «совет старейшин»). Герусия созывалась первосвященником или царем и заседала в одном из помещений Храма. При римском правлении еврейские суды лишились права выносить смертные приговоры.

В Талмуде происхождение синедриона традиционно возводится к Моисею, назначившему 70 старейшин, чтобы они помогли ему управлять народом. Исторически, однако, этот институт не может восходить к периоду ранее Второго храма. Поначалу советы, состоявшие из уважаемых людей, созывались для обсуждения важных вопросов, касавшихся религиозной жизни общины. В еврейской литературе члены этих советов называются «мужами Великого собрания». Отсюда произошел постоянно действовавший синедрион. Первоначально членами синедриона являлись известные священники (жрецы). Постепенно многих вытеснили ученые-фарисеи. Йоханан Гиркан (ум. 104 до н.э.), правитель Иудеи, изгнал фарисеев из синедриона и сформировал т.н. саддукейский синедрион. Впоследствии к власти вновь пришли фарисеи.

После разрушения иерусалимского Храма в 70 Великий синедрион был переведен в город Ямнию (Явне) и затем несколько раз менял свое местонахождение. Синедрион в Ямнии состоял их 71 члена, включая председателя. К претендентам на место в суде предъявлялся ряд требований, перечисленных в раввинистических источниках: ученость, скромность, мужество, обаяние и знание иностранных языков. Этот синедрион прекратил свое существование после 4 в. н.э.

9 февраля 1807 Наполеон Бонапарт созвал собрание, состоящее из 71 ученого, примерно две трети которых составляли раввины и треть – миряне. Это собрание получило название Французского синедриона. Его целью было определение статуса евреев как граждан страны. Когда синедрион выполнил свою задачу, он был распущен.