Islam mengakar kuat dalam sejarah masyarakat Aceh, Islam mulai masuk Aceh pada 789 M ketika kapal asing singgah di Bandar Perlak yang berada di wilayah Aceh Timur.
Kapal asing yang dikenal Nakhoda Khalifah itu membawa para saudagar Muslim dari Arab, Persia, dan India di bawah pimpinan nakhoda utusan Khalifah Harun ar-Rasyid bernama Bani Abbas.
Keterangan Marco Polo yang singgah di Perlak pada tahun 1292 menyatakan bahwa negeri itu sudah menganut agama Islam. Begitu juga Samudara Pasai, berdasarkan makam yang diketemukan di bekas kerajaan tersebut dan berita sumber-sumber yang ada seperti yang sudah kita uraikan bahwa kerajaan ini sudah menjadi kerajaan Islam sekitar 1270.
Perkembangan Islam di Aceh sudah lama ini dibuktikan dengan banyaknya masjid bersejarah yang bertahan hingga sekarang. Selain sebagai tempat ibadah, masjid juga menjadi tempat dakwah, pendidikan dan aktivitas lainnya. Berikut salah satu masjid bersejarah di provinsi berjuluk 'Serambi Makkah'.
Masjid ini mulai dibangun ketika kerajaan Aceh dipimpin Sultan Iskandar Muda (1607-1636). Tetapi, ada yang menyebutkan pembangunannya dilakukan pada masa sebelumnya. Sultan Iskandar Muda hanya melakukan perbaikan saja.Abdul Baqir Zein dalam Masjid-Masjid Bersejarah di Indonesia menjelaskan, di samping sebagai tempat ibadah, masjid ini juga difungsikan sebagai benteng pertahanan, seperti yang dilakukan Sultan Alaidin Mahmud Syah (1870-1874).Di masjid ini sering pula diadakan musyawarah besar membicarakan strategi penyerangan dan kemungkinan serangan Kompeni Belanda terhadap Kerajaan Aceh Darussalam.
dalam riwayat lain disebutkan bahwa yang mendirikan masjid raya ini adalah saat zaman Kerajaan Aceh pimpinan Sultan Alaidin Mahmudsyah pada tahun 1875 (1292 Hijriah). Sayangnya, masjid ini kemudian terbakar habis akibat penyerangan tentara Belanda dalam ekspedisinya pada bulan April 1873 (Safar 1290 Hijriyah).
Masjid Raya Baiturrahman yang berada di jantung Kota Banda Aceh adalah salah satu dari beberapa masjid legendaris di dunia yang memiliki sejarah panjang.
Masjid ini telah melewati tahapan Perang Dunia II serta bencana paling dahsyat di abad moderen, tsunami 26 Desember 2004, tsunami (26 Desember 2004) yang menghancurkan sebagian Aceh, mesjid ini selamat tanpa kerusakan yang berarti dan banyak warga kota yang selamat di sini. Kawasan/lingkungan mesjid ini juga dijadikan kawasan syariat Islam.
Pada era kolonial hingga awal-awal kemerdekaan, Masjid Raya Baiturrahman pernah beberapa kali mengalami renovasi dan perluasan hingga kemudian memiliki lima kubah dengan dua menara.
Pada 1991-1993, di bawah kepemimpinan Gubernur Dr. Ibrahim Hasan Masjid Raya Baiturrahman kembali mengalami perluasan.
Perluasan meliputi halaman depan dan belakang serta areal tempat shalat (bagian dalam masjid) dengan segala fasilitas, seperti perpustakaan, ruang tamu, ruang perkantoran, aula, dan tempat wudu.
Dengan perluasan tersebut, Masjid Raya Baiturrahman memiliki tujuh kubah, empat menara, dan satu menara induk.
