Tak hanya di Pulau Jawa saja penyebaran ajaran islam sangat cepat dan pesat, di Pulau Sumatera juga ajaran islam begitu pesat tersebarnya. Maka tak heran di Sumatera banyak sekali bangunan masjid karena memang kebanyakan penduduknya beragama islam. Salah satunya berada di Rantauprapat yang merupakan ibukota dari Kabupaten Labuhanbatu Provinsi Sumatera Utara. Sebelumnya Rantauprapat merupakan sebuah kota Administratif tetapi kemudian pada tahun 2003 statusnya dirubah menjadi sebuah daerah otonom. Rantauprapat juga dilintasi oleh Jalan Lintas Sumatera serta dilintasi oleh Sungai Bilal. Nama dari sungai tersebut merupakan sebuah kesultanan yang pernah berdiri disana pada saat masa penjajahan Belanda, yaitu Kesultanan Bilah. Sekitar tahun 1930 an, Kesultanan Bilah telah membangun empat masjid. Dana untuk membangun ke empat masjid tersebut berasal dari sisa pungutan pajak dari masyarakt. Dan masjid Agu Rantauprapat merupakan salah satu bangunan masjid yang didirikan oleh Kesultanan Bilah.
Lokasi masjid tersebut berada di Jalan Ahmad Yai No. 156, Rantauprapat, Kecamatan Rantu Utara, Kabupate Labuhanbatu Sumatera Utara. Bangunan masjid tersebut sangat populer karena memang dari struktur bangunannya begitu kokoh dan juga megah. Tak heran masjid Agung Rantauprapat memperoleh gelar sebagai masjid terbaik dalam tingkat Provinsi Sumatera Utara pada periode 2013-2014. Atas prestasinya tersbeut masjid Agung Rantauprapat mendapatkan bantuan dana sebesar Rp. 100 juta dari Pemkab Labuhanbatu. Hal tersebut telah disampaikan oleh Bupati H. Tigor Panusunan Siregar pada saat beliau melakukan perjalanan Ramadhan ke masjid Agung Rantauprapat. Dengan bantuan dana sebesar itu, para pengurus masjid serta warga sekitar merasa sangatbahagia dan bangga serta semakin semangat dalam memakmurkan dan menjaga bangunan masjid tersebut.
Selain memberikan daa tersebut, Pemkab Labuhanbatu juga memberikan program honor kepada para guru ngaji yang telah memberikan ilmu bermanfaatnya kepada anak-anak disana. hal tersebut juga merupakan sebuah program yang bertajuk ‘Labhanbatu Mengaji’. Tak hanya itu saja, Pemkab setempat juga menyarankan kepada orang tua sekitar wilayah tersebut agar para anak-anaknya mengaji di masjid Agung Rantauprapat. Karena ada prestasi tersebut, masjid Agung Rantauprapat juga mewakili Sumatera Utara dalam tingkat nasional tahun 2015. Pada saat itu juga masjid tersebut di ketuai oleh BKM, H. Hamid Zahid.
Kembali ke sejarah bangunan masjid Agung Rantauprapat yang dibangun oleh Kesultanan Bilah dimana ternyata e empat masjid ang didirikan tersebut memiliki ciri khas serta ornamen yang sangat mirip. Hingga bentuk kubah masjid pun sama. meskipun saat ini perkembangan dalam pembangunan begitu berkembang pesat, namun keaslian dari bangunan masjid Agug Rantauprapat masih dipertahankan hingga saat ini. Hal tersebut terbukti pada bagian kubah masjid yang terbuat dari kayu sekaligus menjadi bagian langit-langit masjid.
Masjid Agung Rantauprapat berdiri megah dan kokoh diatas lahan seluas 4.855 meter persegi. bangunan masjid tersebut dilengkapi dengan ketiga kubah dmana satu kubah menara utama merupakan yang palng tinggi yang posisinya berada di bagian belakang. Sedangkan kedua kubah lainnya berada di pintu masuk masjid. Di pntu pagar tersebut terdapat dua menara seperti pada bangunan masjid Raya Al-Maksum yang ada di Kota Medan. Selain itu terdapat juga simbol suku Melayu yang masih melekat dengan dominasi warna kuning pada masjid dan pada bagian kubah masjidnya berwarna hijau. Masjid Agung Rantauprapat juga dilengkapi dengan adanya sebuah klinik kesehatan dan madrasah di komplek masjid tersebut. Hingga kini pun masjid Agung Rantauprapat selalu dipenuhi oleh para jamaah dan pengunjung.