Seorang ulama penting pada zaman Belanda sampai awal kemerdekaan. Ia lahir di Kampung Gusti, Jakarta Kota tahun 1887, Putera dari K.H. Abdul Rahman, seorang ulama yang begitu dihormati.

Pada masa pendudukan Jepang, ia dipercaya menjadi salah satu pimpinan Masyumi, masuk sebagai anggota Nahdlatul Ulama dan kemudian menjadi anggota Chuo Sangiin (Dewan Penasihat Pusat). Ia mempunyai banyak murid yang tersebar luas di Betawi. Juga menghasilkan beberapa karya yang ditulis tangan dalam bentuk stensilan atau ketikan.

Meninggal dunia pada hari Jumat, 27 Juni 1947, dan dimakamkan di Kampung Pesalo, Basmol, Jakarta Barat, di tempat pemakaman milik salah seorang muridnya bernama K.H. Abdul Ghani. Oleh masyarakat sekitar, K.H. Abdul Madjid dianggap seorang waro yang dipercayai memiliki karomah. Itulah sebabnya, sampai sekarang makamnya masih terus ramai diziarahi baik oleh murid-muridnya ataupun masyarakat umum. Bahkan digunakan sebagai tempat perayaan hari-hari besar Islam seperti Maulid Nabi, Isra Mi'raj, maupun satu Muharram.