وقال أبو الحجاج: يوسف بن عبد العزيز اللخمى: توفى القاضى الباقلانى سنة أربع وأربعمائة.
وقد نقل القاضى عياض في " ترتيب المدارك " ما حكاه الخطيب، ثم قال: " ووجدت عن غيره: سنة أربع، أيام بهاء الدولة، والخليفة القادر بالله، وهذا خطأ والاول أصح ".
وقد صلى على الباقلانى ابنه الحسن، وكان شابا مرجوا، واخترمته المنية بعد أبيه.
ودفن القاضى في داره، ثم نقل بعد ذلك فدفن في مقبرة باب حرب، في تربة بقرب قبر أحمد بن حنبل، ونقش على شاهد تربته ما نصه: " هذا قبر القاضى الامام السعيد، فخر الامة، ولسان الملة وسيف السنة، عماد الدين، ناصر الاسلام، أبى بكر: محمد بن الطيب البصري، قدس الله روحه، وألحقه بنبيه محمد صلوات الله عليه وسلامه، ويزار ويستسقى ويتبرك به ".
وقد حضر أبو الفضل التميمي الحنبلى (٣٤١ - ٤١٠) يوم وفاته العزاء حافيا مع إخوته وأصحابه، وأمر أن ينادى بين يدى جنازته: " هذا ناصر السنة والدين، هذا إمام المسلمين، هذا الذى كان يذب عن الشريعة ألسنة المخالفين، هذا الذى صنف سبعين ألف ورقة ردا على الملحدين ".
وقعد للعزاء ثلاثة أيام فلم يبرح وكان يزور تربته كل يوم جمعة في الدار.
وكان يزورها أيضا للترحم عليه أبو الفضل: عبيد الله بن أحمد بن على المقرئ (٣٧٠ - ٤٥١) وأبو علي: الحسن بن أحمد بن إبراهيم بن شاذان (٣٣٩ - ٤٢٦) وأبو القاسم: عبيد الله بن أحمد بن عثمان الصيرفى (٣٥٥ - ٤٣٥) .
وقد رثى الباقلانى بعض الشعراء فقال: انظر إلى جبل تمشى الرجال به * * وانظر إلى القبر ما يحوى من الصلف وانظر إلى صارم الاسلام منغمدا * * وانظر إلى درة الاسلام في الصدف