كان أول من سكنها العمالقة، ثم تغلبت عليهم بعض القبائل اليهودية، فأقاموا بها، خاصة في القرنين الأول والثاني الميلاديين، إثر الحروب التي شنها الرومان ضد اليهودية بسورية، فتفرقوا في البلاد، فلجأت قبائلهم وعلى رأسهم بنو النضير وبنو قريظة إلى يثرب. وأقاموا بها حتى نزح إليهم من بلاد اليمن قبائل الأوس والخزرج عندما تهدم سد مأرب [المقريزي: إمتاع الأسماع].
عاش اليهود والأوس والخزرج في وئام فترة من الزمان، وتحالفوا ليأمن بعضهم بعضًا، وعندما قويت شوكة الأوس والخزرج تنمَّر اليهود عليهم ونقضوا الحلف الذي بينهم، فاستنجد العرب ببني عمومتهم الغساسنة، فأنجدوهم أنفة من تسلط اليهود عليهم [صبح الأعشى].
وكذلك عاش الأوس والخزرج في وئام في بداية أمرهم، ثم وقعت بينهما حروب طويلة، كان النصر في أغلب الأحيان للخزرج، ولهذا حاولت الأوس محالفة قريش ضد الخزرج، فلم تفلح، فلجؤوا إلى الحلف مع بني قريظة وبني النضير. وسمعت الخزرج بهذا فأرسلت تستوضح الموقف، فأفادتهم يهود بأنها لا ترغب في الحرب، فأرادت الخزرج أن تتأكد من هذا، فطلبت منهم أربعين غلامًا، ليتخذوهم رهائن لديهم، وعندما استجابوا لهم، خيروهم بين الجلاء عن يثرب أو قتل الغلمان، فآثروا الخروج من ديارهم، غير أن كعب بن أسد القرظي أقنعهم بالبقاء والتضحية بالرهائن، فقتل الخزرج الغلمان، فغضب يهود وجاهروا بحلفهم مع الأوس، ووقفوا معهم في موقعة بُعَاث، فانتصر الأوس، بعد أن أوقعوا في الخزرج مقتلة عظيمة، ثم تصالح الفريقان، واتفقا على إقامة حكومة تعمل على استقرار الأمور بيثرب، برئاسة عبد الله ابن أُبَيّ بن سَلُول الخزرجي. [الوفا]، وبينما كانوا يستعدون لذلك قدم الرسول ﷺ المدينة مهاجرًا، فدان الجميع لسلطان الإسلام. ولم يجد ابن أبي بدًا من الدخول في الإسلام ظاهرًا بعد موقعة بدر، ودلت مواقفه بعد ذلك على نفاقه كما سيأتي بيانه. وهو ممن اتفق على نفاقه أهل الحديث والتفسير والمغازي والسير.
أما زعيم الأوس: أبو عامر بن صيفي بن النعمان، والد أبي حنظلة الغسيل، فقد أبى إلا الكفر فخرج إلى مكة، ثم إلى الطائف، ثم إلى الروم بالشام، محاولًا في كل أطوار حياته القضاء على الإسلام، وكان قد ترهب في الجاهلية، فسموه الراهب، فقال رسول الله ﷺ: «لا تقولوا الراهب، ولكن قولوا الفاسق» [ابن إسحاق]. وله قصة في أحداث غزوة أحد، سيأتي ذكرها في مكانها.