Kemudian pada 1997, dia pernah menjadi profesor tamu pada Universitas Filipina dan Universitas Malaya, Malaysia. Sebelum menempati posisi Rektor UIN Syarif Hidayatullah, Azyumardi Azra menapaki kariernya di kampus tersebut sebagai dosen Fakultas Adab dan Fakultas Tarbiyah pada 1992, lalu menjadi Guru Besar Sejarah Fakultas Adab dan Pembantu Rektor I pada 1998.
Dia pernah pula menjadi Professor Fellow di Universitas Melbourne, Australia (2004-2009), sebagai orang Asia Tenggara pertama yang didapuk posisi tersebut. Selain itu, ia juga menjadi anggota Dewan Penyantun (Board of Trustees) International Islamic University Islamabad Pakistan (2004-2009).