Pendiri dan pemimpin gerakan Khilafatul Muslimin adalah Abdul Qadir Hasan Baraja, mantan anggota NII, sekaligus salah satu pendiri Pondok Pesantren Ngruki dan ikut ambil bagian dalam Majelis Mujahidin Indonesia pada 2000, walaupun memilih tidak aktif.
Terdapat beberapa parameter yang bisa dipakai dalam melihat Khilafatul Muslimin. Pertama, dari aspek ideologi sangat berbahaya karena memiliki cita-cita ideologi khilafah di Indonesia sebagaimana HTI.
"Walaupun dalam pengakuan mereka tidak bertentangan dengan Pancasila, namun ideologi mereka adalah mengkafirkan sistem yang tidak sesuai dengan pandangannya," ujar Nurwakhid.
Kedua, lanjut Nurwakhid, secara historis pendiri gerakan ini sangat dekat dengan kelompok radikal seperti NII, MMI dan memiliki rekam jejak dalam kasus terorisme. Baraja disebut telah mengalami 2 kali penahanan, pertama pada Januari 1979 dan ditahan selama 3 tahun.
Kemudian ditangkap dan ditahan kembali selama 13 tahun, berhubungan dengan kasus bom di Jawa Timur dan Borobudur pada awal tahun 1985. Ketiga, dampak ideologis, yakni gerakan ini memiliki cita-cita ideologi perubahan sistem sangat rentan bermetamorfosa dalam gerakan teror.