Menurut Masykur Hasyim dalam tulisan ‘Merakit Negeri Berserakan’, NU lahir sebagai reprensentatif dari ulama tradisionalis, dengan haluan ideologi ahlus sunnah waljamaah. Tokoh-tokoh yang ikut berperan di antaranya KH Hasyim Asy’ari, KH Wahab Hasbullah, dan para ulama pada masa itu.
Sejarah berdirinya Nahdlatul Ulama berkaitan erat dengan perkembangan pemikiran keagamaan dan politik dunia Islam kala itu. Pada tahun 1924 di Arab Saudi, sedang terjadi arus pembaharuan. leh Syarif Husein, Raja Hijaz (Makkah) yang berpaham Sunni ditaklukan oleh Abdul Aziz bin Saud yang beraliran Wahabi.
Pada tahun 1924 juga, di Indonesia K H Wahab Chasbullah mulai memberikan gagasannya pada KH Hasyim Asyari untuk perlunya didirikan NU. Sampai dua tahun kemudian pada tahun 1926 baru diizinkan untuk mengumpulkan para ulama untuk mendirikan NU.
Sebelum Nahdlatul Ulama dibentuk KH Hasyim Asyari terlebih dahulu melakukan sholat istikharah untuk meminta petunjuk kepada Allah SWT. Sikap bijaksana dan kehati-hatian KH Hasyim Asyari dalam menyambut permintaan KH Wahab Hasbullah juga dilandasi oleh berbagai hal.
Di antaranya posisi KH Hasyim Asyari saat itu lebih dikenal sebagai Bapak Umat Islam Indonesia (Jawa). KH Hasyim Asyari juga menjadi tempat meminta nasihat bagi para tokoh pergerakan nasional.