Akademi Jakarta didirikan pada tanggal 24 Agustus 1970. Para anggotanya dipilih oleh Dewan Kesenian Jakarta dan berjumlah 10 orang. Dalam Pedoman Dasar PKJ-TIM, tanggal 10 November 1968 Pasal 5, selain berjumlah sepuluh orang, para anggota Akademi Jakarta dipilih untuk seumur hidup selama kesehatannya masih baik. Kriteria lain yang berlaku, berumur lebih dari 40 tahun, dan berasal dari seluruh Indonesia. Anggota Akademi Jakarta harus merupakan seniman atau budayawan yang sudah berprestasi pada bidangnya, yang bermutu dan juga merupakan pemikir kebudayaan secara umum.

Dalam hubungannya dengan Pemerintah, Akademi Jakarta merupakan Dewan Penasehat bagi Gubernur DKI Jakarta bidang seni dan budaya. Berkaitan dengan tugasnya, Akademi Jakarta memberikan pertimbangan serta nasehat, diminta atau tidak, kepada Gubernur DKI Jakarta mengenai hal-hal yang berkenaan dengan pengarahan dan pemikiran dasar kebudayaan Indonesia dalam arti yang seluas-luasnya.

Ketika dikukuhkan Gubernur KDKI Jakarta Ali Sadikin pada tahun 1970, para anggota Akademi Jakarta terdiri dari Sutan Takdir Alisjahbana (budayawan dan sastrawan), Mohammad Said (pendidik), Mochtar Lubis (wartawan dan penulis), Rusli (pelukis), Asrul Sani (penyair dan sutradara). Sutan Takdir Alisjahbana wafat pada tanggal 17 Juli 1994.

Pada tahun 1980, karena tugasnya di luar negeri, Soedjatmoko mengundurkan diri dari Akademi Jakarta dan digantikan oleh H. Boediardjo (mantan Menteri Penerangan). Mohammad Said yang meninggal pada tahun 1981, digantikan oleh Mukti Ali (mantan Menteri Agama). Mereka berdua dikukuhkan oleh Gubernur Tjokropranolo pada tanggal 22 April 1981. Umar Kayam (cendikiawan dan penulis) menggantikan Djadug Djajakusuma yang meninggal pada tahun 1987, dan beliau dikukuhkan oleh Gubernur Wiyogo Atmodarminto pada tanggal l6 April 1988. Affandi yang meninggal pada tahun 1990, digantikan oleh Iravati M. Soediarso (pianis kenamaan), dan dikukuhkan oleh Gubernur Wiyogo Atmodarminto pada tanggal 22 Juni 1991. Selain AK diberi kewenangan untuk memberikan hadiah seni kepada seniman-seniman yang berprestasi luar biasa. Hadiah seni yang pertama telah diberikan oleh Akademi Jakarta kepada seniman WS Rendra yaitu tahun 1975, kemudian Zaini (1977), dan terakhir Retno Maruti (2005).