Karier politik suami dari Noorainee Abdul Rahman itu diawali dengan menjadi ketua pemuda UMNO Pagoh pada 1976. Dia lalu menjadi ketua UMNO sampai April 1985. Di tahun yang sama, dia dipilih menjadi anggota majelis tertinggi UMNO.
Dari situ, karier pria bernama lengkap Tan Sri Dato Haji Mahiaddin bin Md Yasin itu terus menanjak hingga menjadi wakil presiden UMNO pada September 1993. Pada 1992 hingga 1995, Muyhiddin diangkat menjadi menteri besar Johor (setara gubernur di Indonesia).
Pada 2004-2008, dia dipercaya menjabat menteri pertanian dan perindustrian berbasis agro. Sukses di bidang perindustrian, petualangan politik ayah empat anak itu dilanjutkan dengan menjadi menteri perdagangan antarbangsa dan industri.
Puncak karier pemerintahan terakhir, Muhyiddin diangkat menjadi wakil perdana menteri Malaysia di bawah Najib Razak pada 10 April 2009 sampai 29 Juli 2015. Di periode yang sama dia merangkap jabatan sebagai menteri pendidikan.
Pada 2016, jabatannya sebagai wakil presiden UMNO dilucuti terkait tuduhan keterlibatannya dalam skandal megakorupsi 1MDB. Pada tahun itu pula, Muhyiddin berpaling dari UMNO dan bersama Mahathir mendirikan PPBM. Dia pun dilantik sebagai presiden PPBM.