أسس هذا المسجد في عهد الأمير الأموي "عبد الرحمن الداخل" في الأندلس بمدينة قرطبة سنة 170هـ/786م، وأراد أن يجعله مماثلاً لجامع دمشق في الشام. وقد وصل به إلى مستوى من العمارة والفن إلى حد اعتبره العديد من الجغرافيين والأثريين والمؤرخين أروع الأمثلة للعمارة والفن الإسلامي
ومن الناحية العلمية عُدَّ هذا المسجد أعظم جامعة إسلامية كانت تدرس فيها علوم الدين واللغة، ويفد إليها طلاب المسلمين والمسيحيين للدرس والتحصيل من غرب أوروبا