Pada akhir tahun 2001, Gus Sholah didaftarkan oleh adik iparnya, Lukman Hakim Syaifudin, sebagai calon anggota Komnas HAM. Meskipun dengan persiapan sekadarnya, dia berhasil lolos dalam uji kelayakan (fit and proper test), sehingga terpilih sebagai salah satu dari 23 anggota Komnas HAM periode 2002-2007. Pada saat yang sama, Gus Sholah terpilih sebagai Wakil Ketua II Komnas HAM.
Selama berkiprah di Komnas HAM, Gus Sholah sempat memimpin TGPF (Tim Gabungan Pencari Fakta) untuk menyelidiki kasus Kerusuhan Mei 1998 (Januari-September 2003), kemudian Ketua Tim Penyelidik Adhoc Pelanggaran HAM Berat kasus Mei 1998, Ketua Tim Penyelidikan Kasus Pulau Buru, dan lain sebagainya. Sejak saat itu popularitasnya semakin menanjak.
Ketika sistem pemilihan presiden dan wakil presiden dilakukan secara langsung, Gus Sholah dipinang Golkar untuk maju sebagai Cawapres berpasangan dengan Wiranto. Deklarasinya dilakukan di Gedung Bidakara, Jakarta, Selasa 11 Mei 2004. Ini merupakan babak baru dari perjalanan karir politiknya. Untuk menunjukkan keseriusannya sebagai Cawapres, Gus Sholah mengundurkan diri dari Komnas HAM dan PBNU.
Pada Pebruari 2006, KH Muhamad Yusuf Hasyim (Pak Ud) menyampaikan niatnya untuk mundur dari jabatan pengasuh Tebuireng. Pak Ud meminta Gus Solah untuk menggantikannya. Lalu pada tanggal 12 April 2006, Gus Solah bertemu dengan Pak Ud dan keluarga besar Tebuireng, serta para alumni senior, untuk mematangkan rencana pengunduran diri Pak Ud dan naiknya Gus Solah sebagai pengasuh Ponpes Tebuireng.
Selama memimpin Ponpes Tebuireng, Gus Solah berupaya menggugah kesadaran para guru, pembina santri, untuk memperbaiki diri dan meningkatkan kinerja berdasar keikhlasan dan kerja sama.