ولما مات ذر بن أبي ذر وقف أبو ذر على قبره ومسحه بيده ثم قال : رحمك الله يا ذر ، والله أن كنت بي بارا ولقد قبضت وإنّي عنك لراض ، أما والله ما بي فقدك وما عليّ من غضاضة ، وما لي إلى سوى الله من حاجة ، ولو لا هول المطلع لسرني أن أكون مكانك ، ولقد شغلني الحذر لك عن الحذر عليك ، والله ما بكيت لك ، ولكن بكيت عليك ، فليت شعري ما ذا قلت وما ذا قيل لك؟
اللهم إنّي قد وهبت له ما افترضت عليه من حقي فهب له ما افترضت عليه من حقك ، فأنت أحق بالحق منّي.
ومكث أبو ذر بالربذة حتّى مات ، فلما حضرته الوفاة قال لامرأته : اذبحي شاة من غنمك فاصنعيها فإذا نضجت فاقعدي على قارعة الطريق ، فأول ركب تريهم قولي : يا عباد الله المسلمين هذا أبو ذر صاحب رسول الله (صلّى الله عليه وآله وسلّم) قد قضى نحبه ولقي ربه فأعينوني عليه وأجيبوه ، فإنّ رسول الله (صلّى الله عليه وآله وسلّم) أخبرني أنّي أموت في أرض غربة وأنّه يلي غسلي ودفني والصلاة عليّ رجال من أمتي صالحون.
قال محمد بن علقمة بن الأسود النخعي ، خرجت في رهط أريد الحج منهم مالك بن الحارث الأشتر ، وعبد الله بن الفضل التميمي ، ورفاعة بن شداد البجلي حتّى قدمنا الربذة ، فإذا امرأة على قارعة الطريق تقول : يا عباد الله المسلمين هو أبو ذر صاحب رسول الله قد هلك غريبا ليس له أحد يعينني عليه. فنظر بعضنا إلى بعض وحمدنا الله على ما ساق إلينا واسترجعنا على عظم المصيبة ، ثم أقبلنا معها فجهزناه وتنافسنا في كفنه حتّى خرج من بيننا بالسواء ، وتعاونا على غسله حتّى فرغنا منه ، ثم قدمنا مالك الأشتر فصلّى عليه ، ودفناه فقام الأشتر على قبره ثم قال :
ـ اللهم هذا أبو ذر صاحب رسول الله (صلّى الله عليه وآله وسلّم) عبدك في العابدين ، وجاهد فيك المشركين ، لم يغيّر ولم يبدل لكنّه رأى منكرا فغيّره بلسانه وقلبه حتّى جفي ونفي وحرم واحتقر ثم مات وحيدا غريبا ... اللهم فاقصم من حرمه ونفاه من مهاجره ، حرم الله وحرم رسول الله ...