Arsitektur merupakan seni paling awal yang selalu menjadi representasi utama seni sebuah bangunan. Seni arsitektur yang nilainya lebih tinggi dari bangunan biasa dapat dilihat pada tempat ibadah. Dalam Islam, seni arsitektur menemukan ekspresinya yang tertinggi ketika ia diaplikasikan dalam arsitektur masjid.
Masjid, selain sebagai bangunan sentral dalam Islam untuk beribadah, juga berperan sebagai sebuah ruang pertemuan besar, forum politik, serta ruang pendidikan. Kebutuhan untuk shalat berjamaah secara fisik telah terpenuhi dengan tersedianya masjid lengkap dengan tempat beribadah dan berandanya yang beratap, tempat wudhu, mimbar, dan mihrab. Sedangkan, kebutuhan politis terpenuhi dengan adanya gambar dan hiasan yang indah.
Arsitektur masjid menjadi refleksi hubungan antarras dan hubungan internasional dalam sejarah perkembangan peradaban Islam ketika itu. Dapat dikatakan, arsitektur masjid merupakan contoh yang jelas untuk melukiskan perpaduan budaya antara Islam dan daerah sekitar tempat masjid itu berdiri. Selain dipengaruhi oleh budaya daerah setempat, seni arsitektur masjid juga dipengaruhi oleh bahan baku yang tersedia saat itu di wilayah tersebut, yaitu batu, batu bata, ataupun tanah liat.
Phillip K Hitty dalam bukunya, History of the Arabs, mengatakan, Masjid Nabawi di Madinah merupakan prototipe umum arsitektur mas jid-masjid besar pada abad pertama Islam. Arsitektur masjid ini se derhana, hanya terdiri dari pelataran terbuka yang dikelilingi oleh dindingdinding yang terbuat dari tanah liat yang dikeringkan. Untuk menghalangi sinar matahari, ditambahkan atap untuk menutup seluruh ruang yang terbuka. Atap tersebut terbuat dari batang pohon kurma yang juga dimanfaatkan sebagai tiang pe nyangga.
Tak hanya itu, batang kurma juga diletakkan di atas tanah yang kemudian digunakan Nabi Muhammad sebagai mimbar. Pada awalnya, mimbar merupakan tempat duduk yang ditinggikan atau singgasana yang digunakan oleh penguasa dan tidak terkait dengan peribadatan. Namun, dalam perkembangan arsitektur Is lam, khususnya masjid, mimbar dijadikan sebagai tempat untuk me nyampaikan khutbah dan hal ter sebut dimulai dari Masjid Nabawi.
Tidak lama menggunakan batang pohon kurma, Nabi Muhammad kemudian mengganti mimbar dengan sebuah podium dari kayu cedar bertangga tiga. Dari bangunan Masjid Nabawi yang sederhana, gambaran umum arsitektur sebuah masjid terdiri dari tiga hal, yaitu beranda atau pelataran, atap, dan mimbar.
Ketika penyebaran Islam menuju Asia Barat dan Afrika Utara dimulai, bangunan yang memiliki seni arsitektur yang tinggi mulai dikuasai orang-orang Muslim. Penguasaan tersebut diikuti dengan penguasaan terhadap pengetahuan dan keterampilan teknis bangsa yang ditaklukkan. Beberapa masjid utama di Aleppo (Turki), Homs (Suriah), dan Beirut (Lebanon) pada mulanya adalah bangunan gereja yang diubah menjadi masjid.
Di Madain (Irak), sahabat Sa’ad ibn Abi Waqqash menggunakan iwan atau eyvan milik raja Persia, yaitu sebuah ruangan dengan pilar yang membentuk busur sebagai tempat shalat. Di Damaskus, Katedral Santo Yahya (St John) peninggalan Romawi Timur (Bizantium) dialihfungsikan oleh Sultan al-Walid I dari Dinasti Umayyah menjadi sebuah masjid yang diberi nama Masjid Umayyah pada 705 M. Begitu pula di Homs, bangunan serupa juga dijadikan sebagai masjid.