إلى بيت علي بن أبي طالب ، ومعهم الزبير ، وكان يعدّ نفسه رجلاً من بني هاشم ، كان علي يقول : ما زال الزبير منّا أهل البيت حتى نشأ بنوه فصرفوه عنّا.
واجتمعت بنو أمية إلى عثمان بن عفان ، واجتمعت بنو زهرة إلى سعد وعبد الرحمن ، فأقبل عمر إليهم وأبو عبيدة ، فقال : ما لي أراكم ملتاثين ؟ قوموا فبايعوا أبا بكر فقد بايع له الناس وبايعه الأنصار ، فقام عثمان ومن معه ، وقام سعد وعبد الرحمن ومن معهما فبايعوا أبا بكر.
وذهب عمر ومعه عصابة إلى بيت فاطمة ، منهم أسيد بن حضير وسلمة بن أسلم فقال لهم : انطلقوا فبايعوا ، فأبوا عليه ، وخرج إليهم الزبير بسيفه ، فقال عمر : عليكم الكلب ، فوثب عليه سلمة بن أسلم فأخذ السيف من يده فضرب به الجدار ، ثم انطلقوا به وبعلي ومعهما بنو هاشم ، وعلي يقول : أنا عبد الله وأخو رسول الله حتى انتهوا به إلى أبي بكر ، فقيل له : بايع ، فقال : أنا أحق بهذا الأمر منكم ، لا أبايعكم وأنتم أولى بالبيعة لي ، أخذتم هذا الأمر من الأنصار واحتججتم عليهم بالقرابة من رسول الله ، فأعطوكم المقادة ، وسلّموا إليكم الإمارة ، وأنا أحتج عليكم بمثل ما احتججتم به على الأنصار ، فأنصفونا إن كنتم تخافون الله من أنفسكم ، واعرفوا لنا من الأمر مثل ما عرفت الأنصار لكم ، وإلا فبوؤوا بالظلم وأنتم تعلمون.
فقال عمر : إنّك لست متروكاً حتى تبايع ، فقال له علي : احلب يا عمر حلباً لك شطره ، أشدد له اليوم أمره ليردّ عليك غداً ، ألا والله لا أقبل قولك ولا أبايعه ، فقال أبو بكر : فإن لم تبايعني لم أكرهك ، فقال أبو عبيدة : يا أبا الحسن إنك حديث السن ، وهؤلاء مشيخة قريش قومك ، ليس لك مثل تجربتهم ومعرفتهم بالأمور ، ولا أرى أبا بكر إلا أقوى على هذا الأمر منك ، وأشدّ احتمالاً له واضطلاعاً به ، فسلّم له هذا الأمر وارض به ، فإنّك إن تعش ويطل عمرك فأنت لهذا الامر خليق وبه حقيق ، في فضلك وقرابتك وسابقتك وجهادك.