وكان بعث إلى ملك الرّوم بالقسطنطينية يأمره بإشخاص اثني عشر ألف صانع من جميع بلاده ، وتقدّم إليه بالوعيد في ذلك إن توقّف عنه ، فامتثل أمره مذعنا بعد مراسلة جرت بينهما في ذلك.
فشرع في بنائه وبلغ الغاية في التأنّق فيه ، وأنزلت جدره كلها بفصوص الفسيفساء وخلطت بأنواع من الأصبغة الغريبة ، وقد مثّلت أشجارا وفرّعت أغصانا منظومة بالفصوص ببدائع من الأصبغة الغريبة ، فجاء يعشي العيون وميضا. وكان مبلغ النّفقة حسبما ذكره ابن المعلّى الأسدي في بنيانه أربعمائة صندوق ، في كل صندوق ثمانية وعشرون ألف دينار ، فكان مبلغ الجميع أحد عشر ألف ألف دينار ومائتي ألف دينار.
والوليد هو الذي أخذ نصف الكنيسة الباقية منه في أيدي النّصارى وأدخلها فيه ، لأنه كان قسمين : قسما للمسلمين وقسما للنّصارى ، وهو الغربي ، لأن أبا عبيدة ابن الجرّاح رضياللهعنه دخل البلد من الجهة الغربية ، فانتهى الى نصف الكنيسة وقد وقع الصّلح بينه وبين النّصارى ، ودخل خالد ابن الوليد رضياللهعنه عنوة من الجهة الشرقية وانتهى إلى النّصف الثاني ، وهو الشرقي ، فاختاره المسلمون وصيّروه مسجدا.
وبقي النّصف المصالح عليه ، وهو الغربي ، كنيسة بأيدي النّصارى ، إلى أن عوّضهم منه الوليد ، فأبوا ذلك ، فانتزعه من أيديهم قسرا وطلع لهدّه بنفسه ، وكانوا يزعمون أن الذي يهدم كنيستهم يجنّ ، فبادر الوليد وقال : أنا أول من يجنّ في الله تعالى ، وبدأ بالهدم بيده فبادر المسلمون هدمه. واستعدوا عمر ابن عبد العزيز رضياللهعنه أيام خلافته ، وأخرجوا العهود التي بأيديهم من الصحابة رضياللهعنهم في إبقائه عليهم ، فهمّ بصرفه اليهم فأشفق المسلمون من ذلك ، ثم عوّضهم عن ذلك بمال عظيم أرضاهم به فقبلوه.
ويقال إن أوّل من وضع جداره القبلي هود عليهالسلام ، وفي أثر أنه يعبد الله تعالى فيه بعد خراب الدنيا أربعين سنة.