فعلم أنهم أسرع الناس إلى إجابته فطلع رأس جبل وبنى فيه مسجدا وأخذ بالنسك والعبادة، فكان نهاره صائما وليله قائما، فأنسوا إليه وأحبوه وافتتنوا به، ثم إنهم قلدوه أمرهم وجعلوا حكمهم إليه فسألوه أن ينزل من ذلك الجبل ويسكن بينهم. فقال: لا أفعل هذا ولست أسكن بين قوم جهال ضلال إلا أن يعطوني العهود والمواثيق أن لا يشربوا الخمر. ففعلوا له ذلك وأنهم ينكرون المنكر وينكرون أهل المعاصي بأجمعهم. فلم يزل يخدعهم بعبادته حتى بلغ إرادته وأمرهم ببناء حصن في ناحية سرويافع فأطاعوه وسمعوا لأمره. ثم إنه أنهبهم أطراف بلدان ابن أبي العلاء وأراهم أن ذلك جهاد لأهل المعاصي حتى يدخلوا في دين الله طوعا أو كرها، وأمرهم أن يتخطفوا بلاد ابن أبي العلاء، فاشتد بأسهم فكانوا لا يلقون جمعا إلا هزموا وظفروا عليهم وذلك لما سبق من علم الله من فتنة المسلمين على يديه لعنه الله، فلما شاع ذكره وسمع به جعفر بن إبراهيم كاتبه وفرح به وذلك لشحناء بينه وبين ابن أبي العلاء لقرب القرمطي إليه، فكاتبه جعفر على مطابقته على حرب ابن أبي العلاء ووجه من عنده عسكرا إلى القرمطي وتعاقدا أن يكون جميع ما يفتح من بلدان ابن أبي العلاء بينهما نصفين،