Setelah menjalani putaran kedua pada 5 Maret 2014, Mahyeldi kembali unggul dengan perolehan 50,29% suara. Pelantikannya tertunda karena pasangan calon yang kalah mengajukan gugatan ke Mahkamah Konstitusi. Pada 13 Mei 2014, Mahyeldi resmi dilantik menjadi walikota setelah tertunda karena adanya pemilihan umum legislatif Indonesia tahun 2014.
Dia menjadi Wali Kota Padang dua periode. Di periode pertama, dia didampingi Emzalmi sebagai wakil, kemudian di periode kedua dia didampingi Hendri Septa.
Pada Pilkada Serentak tahun 2020, Mahyeldi kembali diusung PKS untuk maju pada Pemilihan Gubernur Sumatera Barat. Didampingi Audy Joinaldi, keduanya diusung oleh Partai Keadilan Sejahtera (PKS) dan Partai Persatuan Pembangunan (PPP) dengan kekuatan 14 kursi di DPRD Sumbar.
Dalam Pilgub 2020 itu, Mahyeldi Ansharullah dan Audy Joinaldi pun menjadi pemenang. Mereka meraih 726.853 suara. Mereka unggul dari pasangan nomor urut 2 dari Partai Gerindra Nasrul Abit – Indra Catri yang memperoleh 679.069 suara.
Mahyeldi dilantik langsung oleh Presiden Joko Widodo (Jokowi) di Istana Negara, Kamis (25/2/2021).