Masjid ini mulai dibangun sekitar tahun 1761-1812. Pada awalnya, masjid ini hanya berupa bangunan kayu sederhana berlantai batu bata yang hanya dilengkapi dengan sebuah menara setinggi lebih kurang 6 meter. Namun, seiring berjalannya waktu, masjid ini tidak lagi mampu menampung jumlah anggota jemaah yang terus bertambah sehingga Yang Dipertuan Muda Raja Abdurrahman Sultan Kerajaan Riau pada 1831-1844 berinisiatif untuk memperbaiki dan memperbesar masjid tersebut.

Untuk membuat sebuah masjid yang besar, Sultan Abdurrahman berseru kepada seluruh rakyatnya untuk beramal dan bergotong-royong di jalan Allah. Peristiwa bersejarah itu terjadi pada tanggal 1 Syawal 1248 Hijriah (1832 M), atau bertepatan dengan hari raya Idul Fitri. Panggilan tersebut ternyata telah menggerakkan hati segenap warga untuk berkontribusi pada pembangunan masjid tersebut.

Orang-orang dari seluruh pelosok teluk, ceruk, dan pulau di kawasan Riau Lingga berdatangan ke Pulau Penyengat untuk mengantarkan bahan bangunan, makanan, dan tenaga, sebagai tanda cinta yang tulus kepada Sang Pencipta dan Sang Sultan. Bahkan, kaum perempuan pun ikut serta dalam pembangunan masjid tersebut sehingga proses pembangunannya selesai dalam waktu yang cepat. Terbukti, fondasi setinggi sekitar 3 meter dapat selesai hanya dalam waktu 3 minggu.

Konon, karena banyaknya bahan makanan yang disumbangkan penduduk, seperti beras, sayur, dan telur, para pekerja sampai merasa bosan makan telur sehingga yang dimakan hanya kuning telurnya saja. Karena menyayangkan banyaknya putih telur yang terbuang, sang arsitek memanfaatkannya sebagai bahan bangunan. Sisa-sisa putih telur itu kemudian digunakan sebagai bahan perekat, dicampur dengan pasir dan kapur, sehingga membuat bangunan masjid dapat berdiri kokoh, bahkan hingga saat ini.

Masjid dengan ketebalan dinding mencapai 50 cm ini merupakan satu-satunya peninggalan Kerajaan Riau-Lingga yang masih utuh. Bahkan, hingga kini masjid ini masih digunakan oleh warga untuk beribadah. Luas keseluruhan kompleks masjid ini sekitar 54,4 x 32,2 meter. Bangunan induknya berukuran 29,3 x 19,5 meter, dan ditopang oleh empat tiang. Lantai bangunannya tersusun dari batu bata yang terbuat dari tanah liat. Di halaman masjid terdapat dua buah rumah sotoh yang diperuntukkan bagi musafir dan tempat menyelenggarakan musyawarah. Selain itu, di halaman masjid juga terdapat dua balai, tempat menaruh makanan ketika ada kenduri dan untuk berbuka puasa ketika bulan Ramadhan tiba.

Dari Dermaga Panjang dan Pelabuhan Sri Bintan Pura, Kota Tanjung Pinang, bangunan Masjid Raya Sultan Riau yang berwarna kuning cerah terlihat mencolok di antara bangunan-bangunan lainnya di pulau Penyengat, pulau kecil seluas 240 hektar itu. Tiga belas kubah dan empat menara masjid berujung runcing setinggi 18,9 meter yang dulu digunakan oleh muadzin untuk mengumandangkan panggilan shalat membuat bangunan itu tampak megah seperti istana-istana raja di India.

Susunan kubahnya bervariasi mengelompok dengan jumlah tiga dan empat kubah. Ketika kubah dan menara tersebut dijumlahkan, ia menunjuk pada angka 17. Hal ini dapat diartikan sebagai jumlah rakaat dalam shalat yang harus dilakukan oleh setiap umat Islam dalam sehari.

Keistimewaan dan keunikan masjid ini juga dapat dilihat dari benda-benda yang terdapat di dalamnya. Di dekat pintu masuk utama, pengunjung dapat menjumpai mushaf Al Quran tulisan tangan yang diletakkan di dalam peti kaca di depan pintu masuk. Mushaf ini ditulis oleh Abdurrahman Stambul pada tahun 1867 M.

Sebenarnya, masih ada satu lagi mushaf Al Quran tulisan tangan yang terdapat di masjid ini, namun tidak diperlihatkan untuk umum. Usianya lebih tua dibanding mushaf yang satunya karena dibuat pada tahun 1752 M. Di bingkai mushaf yang tidak diketahui siapa penulisnya ini terdapat tafsiran-tafsiran dari ayat-ayat Al Quran. Hal ini mengindikasikan bahwa orang-orang Melayu tidak hanya menulis ulang mushaf, tetapi juga mencoba menerjemahkannya. Sayangnya, mushaf tersebut tidak dapat diperlihatkan kepada pengunjung lantaran kondisinya sudah rusak. Mushaf ini tersimpan bersama sekitar 300 kitab di dalam dua lemari yang berada di sayap kanan depan masjid. Pengunjung juga dilarang untuk mengambil foto di dalam masjid.

Benda lainnya yang menarik untuk dilihat adalah sebuah mimbar yang terbuat dari kayu jati. Mimbar ini khusus didatangkan dari Jepara, sebuah kota kecil di pesisir pantai utara yang terkenal dengan kerajinan ukirnya sejak lama. Sebenarnya, ada dua mimbar yang dipesan waktu itu, yang satu adalah mimbar yang diletakkan di Masjid Sultan Riau ini, sedangkan yang satunya lagi, yang berukuran lebih kecil, diletakkan di masjid di daerah Daik.

Di dekat mimbar, Masjid Sultan Riau ini tersimpan sepiring pasir yang konon berasal dari tanah Mekkah al-Mukarramah, melengkapi benda-benda lainnya seperti permadani dari Turki dan lampu kristal. Pasir ini dibawa oleh Raja Ahmad Engku Haji Tua, bangsawan Riau pertama yang menunaikan ibadah haji, yaitu pada tahun 1820 M. Pasir tersebut biasa digunakan masyarakat setempat pada upacara jejak tanah, suatu tradisi menginjak tanah untuk pertama kali bagi anak-anak.

Selain itu, masjid yang memiliki tujuh pintu dan enam jendela ini juga dilengkapi dengan beberapa bangunan penunjang, seperti tempat wudhu, rumah sotoh, dan balai tempat melakukan musyawarah. Bangunan tempat mengambil air wudu berada di sebelah kanan dan kiri masjid. Adapun rumah sotoh dan balai tempat pertemuan berada di bagian kanan dan kiri halaman depan masjid.

Balai-balai yang bentuknya menyerupai rumah panggung tak berdinding ini dulu digunakan sebagai tempat untuk menunggu waktu shalat dan berbuka puasa pada bulan Ramadhan, sedangkan rumah sotoh, bangunan dengan gaya arsitektur menyerupai rumah di Arab namun beratap genting ini, sebelumnya merupakan tempat untuk bermusyawarah dan mempelajari ilmu agama. Beberapa ulama terkenal Riau pada masa itu, seperti Syekh Ahmad Jabrati, Syekh Arsyad Banjar, Syekh Ismail, dan Haji Shahabuddin, pernah mengajarkan ilmu agama di tempat ini.

Masjid Raya Sultan Riau terletak di Pulau Penyengat, Kota Tanjung Pinang, Provinsi Kepulauan Riau. Dari dermaga Sri Bintan Pura, Tanjung Pinang, pengunjung dapat menaiki pompong untuk mencapai pulau ini. Untuk memasuki lokasi ini, pengunjung tidak dipungut biaya. Namun, bagi pengunjung yang ingin beramal, di pintu utama masjid terdapat kotak amal, atau dapat diberikan langsung kepada pengurus masjid.

Di Pulau Penyengat, pengunjung juga dapat menjumpai cukup banyak rumah makan yang menjajakan masakan khas Melayu dan rumah penginapan yang dikelola penduduk setempat.