Orkes yang dibentuk pertama kali oleh Soewardi alias Bapak Wang pada tahun 1918 dengan nama Rukun Anggawe Santoso (Bersatu Kita Jaya) yang lima tahun kemudian berganti nama Lief Java (Hidup Jawa). Grup ini walaupun hanya memakai alat musik sederhana seperti viol, suling, gitar, cello (digesek), namun sangat menghidupkan musik keroncong atau stambul. Grup ini disukung oleh fluitis Dumas, Kartolo, Miss Rukiah, Atjep, dan miss Netty. Lief Java senantiasa memainkan berbagai macam lagu, baik karya cipta sendiri maupun orang lain. Kebanyakan pemainnya "amatiran", namun bukan berarti asing sama sekali dengan idiom-idiom musik. Mereka tekun bekerja mengkader tenaga-tenaga muda yang sangat ingin dan bercita-cita "memajukan seni-suara Indonesia sehingga berkembang ke seluruh Indonesia."

Lief Java berlatih secara berkala di salah satu rumah di Kampung Kepuh, Kemayoran, Batavia. Penghuni sekaligus pemilik rumah tersebut adalah S. Abdullah, salah seorang musikus keroncong terkenal. Kebanyakan penduduk yang bermukim di daerah Kemayoran adalah orang-orang Indo-Belanda. Kawasan tersebut memang dikenal sebagai tempat berkumpul musikus keroncong, para "Buaya Keroncong." Ismail Marzuki juga berlatih di rumah itu selepas atau di sela-sela pekerjaan sebagai penjual piringan hitam, sehingga kemampuannya di bidang musik tersalur leluasa melalui Lief Java. Selain menggubah dan mencipta banyak lagu keroncong, ia mulai merambah lagu-lagu Barat Hawaii, dan Melayu.

Perlahan namun pasti namanya mulai diperbincangkan banyak orang. Namun demikian, masyarakat luas lebih mengenalnya sebagai seorang penyanyi bersuara berat dan dalam (bariton) ketimbang pemain saksofon, gitar, akordeon, ataupun harmonium pompa. Jenis suaranya yang berada diantara bas dan tenor membuat sebagian kawan menjulukinya "Bing Crosby Kwitang". Bing Crosby adalah salah seorang penyanyi asal Amerika Serikat yang digandrungi saat itu. Ismail berperan cukup besar dalam mengembangkan dan meningkatkan kualitas musik keroncong, Sumbangan lainnya juga tidak kalah penting, Ia adalah orang pertama yang memasukkan alat musik akordeon, sebagai pengganti harmonium pompa, dalam langgam lagu-lagu Melayu.