Digawangi oleh KH Abdul Wahab, sebelumnya para kiai pesantren telah mendirikan organisasi pergerakan Nahdlatul Wathon atau Kebangkitan Tanah Air pada 1916 serta Nahdlatut Tujjar atau Kebangkitan Saudagar pada 1918.
Dengan kata lain, Nahdlatul Ulama adalah lanjutan dari komunitas dan organisasi-organisasi yang telah berdiri sebelumnya, namun dengan cakupan dan segmen yang lebih luas. Komite Hijaz embrio lahirnya Nahdlatul Ulama juga berangkat dari sejarah pembentukan Komite Hijaz. KH Wahab Hasbullah Berkhidmah untuk NU Rektor Unisnu Jepara H Sa'dullah Assa'idi dalam sebuah tulisannya menyebutkan, cikal bakal berdirinya Nahdlatul Ulama tak lepas dari seorang pemuda 26 tahun kelahiran Tambakberas, Jombang. Dia adalah KH Abdul Wahab Hasbullah.
Pada tahun 1914 Masehi, saat kaum Muslimin mulai merasa kurang dinamis, terutama di bidang sosial kemasyarakatan-agama, dan kurang berorganisasi, KH Wahab Hasbullah pulang ke Indonesia setelah lama belajar di Makkah. KH Abdul Wahab yang bertempat tinggal di rumah mertuanya, Haji Musa, di kampung Kertopaten, Surabaya, mulai bermasyarakat mendirikan semacam discussion group yang diberi nama Tashwirul Afkar. Pada mulanya kursus debat ini bertempat di Langgar Haji Musa Kertopaten, kemudian pindah ke Ampel, tepatnya di Lawang Agung Ampel, Surabaya.
KH Wahab Hasbullah berkenalan dengan KH Mansur, yang juga baru pulang belajar dari Mesir, dan berdomisili di kampung Sawahan, Surabaya.
Dari perkenalannya, dua tokoh muda ini sepakat membuat organisasi yang tujuannya untuk meningkatkan mutu madrasah-madrasah sebagai sarana pendidikan dan pengajaran Islam. Maka dilahirkanlah organisasi bernama Jam'iyyah Nahdlatul Wathan, yang kemudian mendapatkan legal-formal (rechtspersoon) pada tahun 1916 M.