ومنذ فترة التهجير إلى بابل، قام أعضاء الجماعات اليهودية بتصريف أمورهم الدينية وبعض أمورهم الدنيوية المحلية ذات الطابع الإداري، مثل جمع الضرائب، بتصريح من السلطة الحاكمة وفي إطار الإدارة الذاتية المعمول بها في معظم الإمبراطوريات القديمة، شأنهم في هذا شأن كل الطوائف والجماعات الوظيفية في المجتمعات التقليدية وفي هذا الإطار تم تأسيس المجمع الكبير. وقد استمر هذا النمط وساد بين أعضاء الجماعات اليهودية حتى القرن التاسع عشر، ثم تقلص بعد ذلك التاريخ إلى تصريف الأمور الدينية وحدها. ولا يُستثنَى من هذا النمط إلا أعضاء التجمع الصهيوني. وقد تولي القيادة في غالب الأمر تحالف من رجال الدين وأثرياء اليهود وكانت التفرقة بينهم صعبة في معظم الأحيان. وبعد مرسوم قورش بالعودة من بابل (٥٣٨ ق. م) ، آلت القيادة إلى طبقة الكهنوت المتركزة حول الهيكل، وتحالف معهم أثرياء اليهود الذين تأغرقوا، فقاومتهم العناصر العبرانية المحلية. ثم ظهر من بينهم، لفترة زمنية قصيرة، ملوك الحشمونيين (١٤٢ ـ ٦٥ ق. م) الذين كانوا يحملون لقب الكاهن الأعظم، وقد تأغرق هؤلاء أيضاً وتعاونوا في نهاية الأمر مع السلطة السلوقية ثم الرومانية. أما حكم الهيروديين (ابتداءً من ٣٧ ق. م) ، فكان تابعاً للرومان تماماً. ومن المعروف أن لقب «ملك روماني (دوكس) » الذي كان يحمله ملوكهم وبعض ملوك الحشمونيين من قبلهم، كان لقباً شرفياً وحسب إذ كانوا يدينون بالتبعية الكاملة لروما. وقد كان الملوك الهيروديون يعينون كاهناً أعظم يعمل موظفاً لديهم ويدين لهم بالولاء. وقد أصبح للجماعة اليهودية في بابل مركز سلطة مستقل يترأسه رأس الجالوت (المنفى) . وحين تعاظم عدد يهود مصر وتزايد نفوذهم، أصبح لهم، هم أيضاً، قيادتهم المستقلة بل هيكلهم المستقل. وفي نهاية القرن الأول قبل الميلاد، ظهرت داخل اليهودية تيارات متعددة كان من أهمها الصدوقيون والفريسيون والغيورون، طرح كلٌّ منهم