Ayahnya merupakan ulama terpandang di Yaman yakni Muhammad bin Salim bin Hafidz, kakeknya adalah Habib Hafidz bin Abdullah bin Syekh Abubakar bin Salim yang juga seorang ulama. Habib Umar diyakini masih merupakan keturunan Nabi Muhammad SAW.
Habib Umar bin Hafidz memiliki kakak laki-laki Habib Ali al-Masyhur bin Hafidz yang juga pendakwah, kakaknya telah meninggal dunia pada Mei 2020. Almarhum kakaknya merupakan ahli Fiqih di Yaman.
Habib Umar bin Hafidz diketahui telah menikah sejak usia 25 tahun dengan perempuan solehah bernama Ummu Salim, yang selalu mendampingi kemanapun Habib Umar berdakwah.
Ummu Salim merupakan putri kedua al-Imam al-Habib Muhammad bin Abdullah al-Haddar yang dinikahi Habib Unar saat berstatus janda. Akhlak dan keteladanan Ummu Salim diakui oleh semua ulama, khususnya kaum muslimah. Habib Umar diketahui memiliki dua anak laki-laki bernama Sayyid Salim bin Umar dan Sayyid Hamid bin Umar Hafidz.
Habib Umar bin Hafidz diketahui telah menghafal Al-Qur'an pada usia yang sangat muda dan juga menghafal berbagai teks inti dalam fikih, hadits dan berbagai ilmu keagamaan yang membuatnya masuk ke dalam lingkaran keilmuan yang dipegang teguh oleh begitu banyak ulama-ulama tradisional seperti Muhammad bin ‘Alawi bin Shihab dan al-Shaikh Fadl Baa Fadl serta para ulama lain yang mengajar di Ribat, Tarim.