واستخدمت الجماعات اليهودية الشرقية السلم الموسيقي العربي الذي ينقسم إلى أربعة أرباع الدرجة ويضم أربعة وعشرين صوتاً، في حين استخدمت الجماعات الإشكنازية في أوربا السلم الغربي الذي ينقسم إلى أنصاف الدرجة ويضم اثنى عشر صوتاً فقط. كما استخدم اليهود الشرقيون في أغانيهم هيكل الأغنية الشرقية الذي يعتمد على التتراكورد، وهو تَسلسُل أربعة أنغام مجموع أبعادها يساوي مسافة رابعة. أما الجماعات الإشكنازية، فاعتمدت على هيكل الأغنية الغربية الذي يعتمد على ثلاثة أنغام يفصل بين كل منها نغمة كاملة. ومازالت بعض الجماعات السفاردية في إيطاليا وبعض مناطق فرنسا تستخدم التتراكورد. كما استخدمت الجماعات الإشكنازية المقامات الغربية التي تضم نوعين فقط؛ مقام كبير ومقام صغير، في حين تكثُر في الموسيقى الشرقية المقامات والأوزان. كما تميَّز غناء الجماعات الشرقية بالطابع الشرقي الذي تسوده الجمل الموسيقية القصيرة والارتجال والزخارف اللحنية.

وظهر في العصر الأموي والعباسي (الأول والثاني) ، على المستوى الشعبي، الشعراء المغنون المتجولون الذين ضموا في صفوفهم يهوداً اقتبسوا عن الشعراء العرب قواعد ممارسة فن الموسيقى والغناء، وعزفوا موسيقاهم وألقوا أشعارهم في القرى والمدن، وأيضاً في قصور الأمراء والخلفاء المسلمين. وكانوا بذلك، عاملاً مهماً في نقل الألحان والأساليب الموسيقية المحلية إلى الجماعات اليهودية، وفي تشكيل ذوقهم الموسيقي. كما كوَّن الموسيقيون الشعبيون من اليهود، وخصوصاً في المغرب العربي وفي تركيا، فرقاً موسيقية شرقية كان لبعضها صيت واسع. وفي إستنبول، كان الموسيقيون اليهود يُشكِّلون ٥,٦% من إجمالي الحرفيين المسجلين لدى الجماعة اليهودية في المدينة عام ١٨٥٦. كما ضمت صفوف الموسيقيين والملحنين الأتراك البارزين يهوداً، خصوصاً في خلال القرنين السابع عشر والثامن عشر.