Sumatra adalah daerah pertama yang dimasuki Islam dari kepulauan Indonesia. Daerah yang pertama dimasuki Islam adalah daerah Sumatra bagian utara, seperti Pasai dan Perlak. Wilayah Sumatra bagian utara terletak ditepi Selat Malaka, tepi Selat Malaka adalah tempat lalu lintas kapal-kapal dagang dari India ke Cina.

Para pedagang dari negara India yakni bangsa Arab, Persia, dan Gujarat dan juga yang merupakan para mubaligh Islam itu banyak yang menetap dibandar-bandar sepanjang Sumatra Utara. Lalu mereka menikah dengan wanita-wanita pribumi yang sebelumnya mereka itu telah diIslamkan sehingga terbentuklah keluarga muslim.

Dan mereka menyiarkan Agama Islam dengan cara yang bijaksana, baik dengan lisan maupun dengan sikap dan perbuatan mereka terhadap sanak famili, para tetangga, dan masyarakat sekitarnya.

Hingga pada akhirnya kerajaan Islam yang pertama berdiri, yaitu kerajaan Samudera Pasai. Kerajaan Samudera Pasai ini berdiri pada tahun 1261 M di Aceh Lhokseumawe (Aceh Utara) Pesisir timur laut. Raja Samudera Pasai bernama Marah Silu, dan Raja Marah Silu ini bergelar Sultan Malik As-Saleh. Lalu beliau menikah dengan yang memeluk Agama Islam yaitu dengan Putri Raja Perlak.

Kerajaan Samudera Pasai ini semakin berkembang. Samudera Pasai berkembang dalam 3 bidang yaitu bidang politik, bidang ekonomi, dan bidang kebudayaan. Seiring dengan kemajuannya yang sangat pesat, kerajaan Samudera Pasai pun mendapat perhatian dan dukungan yang penuh dalam pengembangan agama Islam. Serambi Mekah adalah sebutan terkenal bagi Samudera Pasai.