وقد أُثيرت قضية الدين في المؤتمر الصهيوني الثاني (١٨٩٨) . وكان رد القيادة السياسية (العلمانية) هو أن الدين مسألة شخصية وأن المنظمة الصهيونية العالمية ليس لديها موقف رسمي منه. وقد كان هذا الموقف مقبولاً من المتدينين طالما لم يتوجه المشروع الصهيوني إلا للقضايا السياسية والاقتصادية، وهي قضايا تقع خارج نطاق الإثنية والعقيدة. ولكن حينما تَقرَّر (بناءً على طلب العصبة الديموقراطية) في المؤتمر الخامس (١٩٠١) أن تُشرف المنظمة على برنامج تربوي يقوم بعملية تعليم اليهود روح القومية (الإثنية) اليهودية بالمعنى العلماني الذي حدده آحاد هعام ودعاة الصهيونية الإثنية العلمانية، شعر المتدينون بأن هذا قد يؤدي إلى القضاء على اليهودية. وهنا قرر الحاخام يعقوب راينس عام ١٩٠٢ تأسيس حزب ديني قوي داخل المنظمة الصهيونية.

وفي العام نفسه، عُقد مؤتمر منسك الذي نظمه اليهود الروس وقد تم فيه الاعتراف بالاتجاهين الإثنيين: الديني والعلماني. وحينما اندلع الخلاف بينهما، تم حسمه عن طريق إقامة لجنتين متوازيتين إحداهما إثنية دينية والأخرى إثنية علمانية. وعندئذ قرَّر الصهاينة المتدينون إنشاء منظمة تُدعَى مزراحي. وقد قرَّرت مزراحي القيام بنشاط ديني داخل المنظمة وفي إطار الصيغة الصهيونية الأساسية الشاملة المتهودة (برنامج بازل) ، وهذا بمقتضى القرار الذي صدر في المؤتمر الخامس الذي سمح بتكوين اتحادات مستقلة داخل المنظمة. وعقدت منظمة مزراحي أول مؤتمر لها عام ١٩٠٣، وعبَّر فيه بعض المتدينين عن اعتراضهم على قرارات منسك التي تضمنت الاعتراف بالصهيونية الإثنية العلمانية.