Terletak di Jl. Tangkuban Perahu, Menteng, Jakarta merupakan masjid pindahan dari kawasan tangsi kavaleri (Cavaleri Kampemen) milik pemerintah Belanda di antara Jl. Mangunsarkoro dengan Jl. Latuharhari, yaitu Mesjid Shihabudin yang didirikan sekitar tahun 1870-an oleh Sayid Ahmad bin Muhammad bin Shahab. Ketika tempat tersebut akan dibangun Tangsi Militer, Mesjid Shihabudin dipindahkan ke kawasan yang dikenal dengan Jl. Tangkuban Perahu, di tanah wakaf Sayid Ali bin Ahmad bin Shahab. Kepengurusan Mesjid pertama dilakukan oleh Almarhum KH Mahmud Ramli sejak 1908 sampai meninggal dunia, kemudian digantikan oleh KH abdullah Muhrim hingga tahun 1980. Setelah itu di1anjutkan oleh puteranya sendiri, H. Ahmad Sarwadi.

Tahun 1970-an mengalami perbaikan pertama kali pada masa kepengurusan K.H. Abdullah Muhrim. Perawatan mesjid ini berlanjut dan setiap tahunnya dilakukan perbaikan dan pengecatan pada saat menjelang lebaran. Tata cara ritual keagamaan Mesjid Tangkuban Perahu memiliki ciri-ciri Mesjid Betawi, misalnya untuk acara Maulid Nabi, lsro' Mi'roj, Nispu Sa'ban dll mengikuti tatacara Betawi. Hal ini terjadi karena sejak awal berdirinya mesjid ini berada di wilayah perkampungan Betawi sehingga para pengurus dan jema'ah mesjid ini sebagian besar berasal dari etnik Betawi. Meskipun saat sekarang penduduk Betawi sudah banyak yang pindah ke kawasan lain, karena ada penggusuran, tata cara Betawi masih tetap dipertahankan di masjid ini.