ومما يجدر ذكره أن اليهود، عند الفتح الإسلامي، لم يكونوا عنصراً واحداً متجانساً فقد كان هناك يهود الرومانيوت الذين يتحدثون اليونانية (في الإسكندرية وفي أجزاء أخرى من الدولة الرومانية الشرقية) ، كما كان يوجد يهود يتحدثون الآرامية في الإمبراطورية الفارسية وفلسطين، وانضمت إليهم قبائل اليهود المستعربة التي طُردت من الجزيرة العربية ووُطنت خارجها. ومما له دلالته أن هذه القبائل لم تطلب توطينها في فلسطين أو في القدس. ومن المفارقات أن هذه المجموعة المستعربة كانت بمنزلة النواة العربية القوية التي ساعدت بقية الجماعات اليهودية على استيعاب اللغة والحضارة العربية. وعلى المستوى الديني، كانت اليهودية الحاخامية التلمودية قد فرضت سيطرتها، وكانت المدرسة البابلية بالذات صاحبة السلطة والشرعية. ولكن هذا لم يمنع وجود بعض الفرق اليهودية المختلفة، فيهود الجزيرة العربية كانوا لا يعرفون التلمود، ويبدو أنه كانت تُوجد بقايا للصدوقيين أو لفكرهم. كما كان هناك أيضاً اليهود السامريون (وقد شكل كل هؤلاء نواة حركة القرّائين فيما بعد) . وكانت أغلبية يهود العالم يوجدون في المناطق التي فتحها المسلمون، ويشكلون نحو ١% من السكان في هذه المناطق، كما أن نسبتهم كانت أكبر في المدن.