يريد مَرْوَ، فلما كان بزاغولَ من مَرْو الرُّوذ أصابتْه الشَّوْصة - وقوم يقولون: الشوْكة - فدعا حبيبًا ومَن حضَره من ولده، ودعا بسهام فحُزمتْ، وقال: أترونكم كاسرِيها مجتمعةً؟ قالوا: لا، قال: أفترَوْنكم كاسِريها متفرّقة؟ قالوا: نعم؛ قال: فهكذا الجماعة، فأوصيكم بتَقَوى الله وصلةِ الرّحِم، فإن صِلَة الرّحِم تُنسئ في الأجل، وتُثْرى المال، وتُكثر العَدَدِ؛ وأنهاكم عن القطيعة، فإن القطيعة تُعْقِب النار، وتورِث الذلَّة والقِلّة، فتحابّوا وتواصَلوا، وأجمِعوا أمرَكم ولا تختَلفوا، وتبارُّوا تجتمعْ أمورُكم؛ إنَّ بني الأمّ يختلفون، فكيف ببني العَلّات! وعليكم بالطاعة والجماعة، وليكن فعالُكم أفضل من قولكم، فإني أحبّ للرجل أن يكون لعمله فضلٌ على لسانه، واتقوا الجوَابَ وزلّة اللسان، فإنّ الرجل تزِلّ قدمُه فينتعِش من زَلته، ويزِلّ لسانُه فيَهلِك، اعرِفوا لمَن يغشاكم حقَّه، فكفى بغَدوّ الرجل ورَواحِه إليكم تذكرةً له، وآثروا الجُودَ على البُخْل، وأحِبّوا العَرَب واصطنعوا العُرْف، فإنّ الرجل من العرب تَعدُه العِدةَ فيموتَ دونَك، فكيف الصنيعة عندَه! عليكم في الحرب بالأناة والمكيدة، فإنها أنفع في الحرب من الشجاعة، وإذا كان اللقاء نزل القضاء، فإنْ أخذ رجل بالحزم فظهر على عدوّه قيل: أتى الأمرَ من وَجْهه، ثمّ ظفِر فحُمد، وإن لم يَظهر بعد الأناة قيل: ما فرّط ولا ضيّع، ولكنّ القضاء غالب، وعليكم بقراءة القرآن، وتعليم السنَن، وأدب الصّالحين، وإياكم والخِفّة وكثرَة الكلام في مجالسكم، وقد استخلفتُ عليكم يزيدَ، وجعلتُ حبيبًا على الجُنْد حتّى يَقدم بهم على يزيد، فلا تُخالفوا يزيدَ، فقال له المفضّل: لو لم تقدّمه لقدّمناه.

ومات المهلّب وأوصى إلى حبيب، فصلّى عليه حبيب، ثمّ سار إلى مَرْوَ، وكتب يزيدُ إلى عبد الملك بوَفاةِ المهلب واستخلافهِ إياه، فأقرّه الحجّاج.

ويقال: إنه قال عند موته ووصيّته: لو كان الأمرُ إليّ لولّيتُ سيد ولدي حبيبًا، قال: وتوفِّيَ في ذي الحِجة سنة اثنتين وثمانين، فقال نَهارُ بنُ تَوسِعة التميميّ:

أَلَا ذَهبَ الغزوُ المُقَرِّبُ للغِنَى ... ومات النَّدى والجُودُ بعد المهلَّبِ

أقامَا بمروَ الرُّوذِ رَهنَيْ ضريحِهِ ... وقد غُيّبَا عن كلّ شرقٍ ومغربِ

إذا قيلَ أيُّ الناسِ أَولى بنعمةٍ ... على الناسِ؟ قلناه ولم نتَهَيَّبِ

أبَاحَ لنا سهلَ البلادِ وحزنَها ... بخيلٍ كأَرسال القَطَا المُتَسَرِّبِ