فى العام ٢٢٦ الهجرى ، وأثناء حكم الخليفة المعتصم بالله جرى تغطية بئر زمزم من أعلى ، كانت البئر من قبل قد جرى إقامة سور من حولها ، لكن لم يجر تغطية ذلك السور أو سقفه.
فى العام ٢٤١ الهجرى جرى رصف المنطقة فيما بين حجر إسماعيل والكعبة بالرخام الجميل. فى ذلك الوقت كانت هناك بوابة تفضى إلى المساحة الموجودة داخل مسور الحجر.
فى العام ٢٨١ الهجرى ، قام الخليفة المعتضد بترميم المسجد الحرام كله ؛ فقد أعاد بناء جدران المسجد كله ، وأنشأ بوابات جديدة ، وأطلق عليها أسماء جديدة ، كما وسع المبنى من الجانب الغربى بأن أضاف إليه المساحة التى كانت تشغلها من قبل دار الندوة ، ودار الندوة هذه واحدة من البنايات القديمة فى مكة ، والشهيرة فى تاريخ العرب الوثنيين ، من منطلق أن دار الندوة هذه كانت المجلس العام لشيوخ مكة ، ويقال إن دار الندوة تقع بالقرب من المقام الحنفى الحالى.
فى العام ٣١٤ الهجرى ، أو العام ٣٠١ الهجرى ، على حد قول مؤرخين آخرين لقيت مكة والمسجد الحرام هزائم كثيرة ؛ فقد قام جيش القرامطة المهرطقين ، بقيادة رئيسهم أبو طاهر القرموطى بغزو الحجاز ، واستولوا على مكة ، وجرى قتل خمسين ألفا من سكان مكة أثناء السطو على مكة وسلبها ونهبها ، وجرى تجديد الكعبة هى والمسجد الحرام من الزينات الثمينة كلها. وبعد البقاء فى مكة مدة واحد وعشرين يوما ، رحل العدو عنها حاملا معه جوهرة مكة الثمينة ، ألا وهو الحجر الأسود الموجود فى الكعبة ، وخلال الحريق الذى أضرم فى الكعبة فى زمن ابن الزبير كانت النار قد قسمت الحجر الأسود إلى ثلاثة أجزاء ، جرى ضمها إلى بعضها البعض فيما بعد ، ووضعت فى مكانها السابق وأحيطت بإطار من الفضة ، وقام هارون الرشيد بتجديد هذا الأطار وتقويته.