إن من أقدم الشعوب التي عرفت باليمن من العرب العاربة قوم سبأ، الذين ورد ذكرهم في القرآن الكريم، ويبدأ ازدهار حضارتهم ونفوذ سلطانهم بأحد عشـر قرنًا. وفي سنة ثلاثمائة الميلادية غلبت على ملكهم قبيلة حمير، ثم بدأت اليمن في دور الانحطاط، وأخذت القبائل القحطانية في الهجرة إلى البلاد المختلفة.
وتوالت عليهم الاضطرابات والحروب الأهلية في المئتين والسبعين سنة التي سبقت دخول الإسلام اليمن، مما أتاح للأجانب القضاء على استقلالهم. فدخلت الرومان عدن، وبمعونتهم احتلت الأحباش اليمن لأول مرة، سنة 340م، مستغلين التنافس بين قبيلتي همدان وحمير، واستمر احتلالهم إلى سنة 378م. ثم نالت اليمن استقلالها، ولكن سلط الله تعالى عليهم سيل العرم سنة 450 أو 451م فهدم سد مأرب الذي جعله الله تعالى مصدر نعمة ورخاء لهم [تاريخ اليعقوبي]. وكل ذلك بسبب عتوهم وفسادهم وانحرافهم. وهذه سنة الله تعالى في ذلك.
وفي سنة 523م قام ملكهم ذو نواس بحملة ضد المسيحيين لصـرفهم عن دينهم، فلما أبوا، حفر لهم أخدودًا، وأوقد فيه نارًا، فقذفهم فيها، وهم الذين حكى الله تعالى خبرهم في الآيات: ﴿ قُتِلَ أَصْحَابُ الْأُخْدُودِ ﴿٤﴾ النَّارِ ذَاتِ الْوَقُودِ ﴿٥﴾ ﴾[البروج: 4-5]، وكان سببًا في تحريض الروم الأحباش ليحتلوا اليمن للمرة الثانية بقيادة أرياط سنة 525م، وظل حاكمًا على اليمن إلى أن اغتاله أبرهة - أحد قواد جيشه - وحكم مكانه بعد أن نال رضى ملك الحبشة. وقام أبرهة بمحاولة هدم الكعبة بمكة، ولكن الله رده بقوته، كما حكى ذلك القرآن الكريم في سورة الفيل.
واستنجد اليمنيون بالفرس فأعانوهم على إجلاء الأحباش سنة 575م، بقيادة معد يكرب بن سيف بن ذي يزن الحميري، وملكوه عليهم. وكان قد أبقى جمعًا من الحبشة لخدمته، فاغتالوه، وبموته انقطع الملك عن بيته، وولى كسرى عاملًا فارسيًا على صنعاء، وجعل اليمن ولاية فارسية. وكان آخر ولاتهم باذان، الذي اعتنق الإسلام، وبإسلامه انتهى نفوذ الفرس في بلاد اليمن [نفسه]، وكان إسلام باذان في جمادى الأولى سنة سبع من الهجرة - 628م [ابن سعد].