Karier pemerintahan dimulai pada 2012, Yousaf ditunjuk sebagai wakil menteri.
Saat itu dia menjadi pejabat termuda serta berasal dari etnis minoritas pertama di pemerintahan Skotlandia.
Dia kemudian bergabung dengan kabinet pada 2018 yakni sebagai Menteri Kehakiman serta pernah juga menjabat Menteri Kesehatan pada Mei 2021. Untuk jabatan yang terakhir itu, Yousaf sempat menghadapi kritik terkait penanganan pemerintah terhadap pandemi Covid-19.