Sepulang dari tanah suci, Syaikhona Kholil mendirikan Pondok Pesantren (ponpes) di Bangkalan yang kelak menjadi pusat pendidikan Islam terkemuka di Madura.
Di pesantren inilah dia membina ribuan santri, termasuk KH Hasyim Asy’ari, yang kelak mendirikan Nahdlatul Ulama. Syaikhona Kholil dikenal bukan hanya sebagai guru, tetapi juga sebagai pembimbing spiritual yang memiliki pengaruh besar dalam perkembangan Islam di Nusantara.
Dia menjadi tokoh sentral dalam membentuk karakter bangsa melalui pendidikan pesantren yang menanamkan nilai-nilai keislaman, kebangsaan dan cinta Tanah Air.
Peran Syaikhona Kholil dalam sejarah Indonesia tidak hanya terbatas pada pendidikan. Dia juga menjadi inspirator utama berdirinya Nahdlatul Ulama, organisasi Islam terbesar di Indonesia.
Melalui pesan-pesan dan restunya, para ulama muda terdorong untuk membentuk wadah perjuangan yang menggabungkan semangat keagamaan dan kebangsaan. Pengaruhnya begitu besar sehingga ia dijuluki sebagai “arsitek spiritual” gerakan Islam tradisional di Indonesia.
Pada 10 November 2025, bertepatan dengan Hari Pahlawan, pemerintah Indonesia menganugerahkan gelar Pahlawan Nasional kepada Syaikhona Muhammad Kholil.