Kim Yong Nam tidak memiliki hubungan darah dengan pemimpin Kim Jong Un, cucu pendiri Korut Kim Il Sung, yang mengambil alih kekuasaan setelah kematian ayahnya, Kim Jong Il, pada 2011. Meski demikian, Kim Yong Nam menjabat sebagai kepala Majelis Rakyat Tertinggi dari 1998 hingga April 2019.
Pemegang jabatan tersebut juga disebut sebagai kepala negara seremonial Korut, meski kekuasaan sebenarnya dipegang oleh keluarga Kim, yang telah memerintah sejak awal berdirinya negara tersebut pada 1948.
Saat Kim Il Sung meninggal pada 1994, Kim Yong Nam membacakan elegi untuk pendiri negara tersebut. Dia juga mengemban tugas untuk secara resmi mencalonkan Kim Jong Il sebagai ketua Komisi Pertahanan Nasional setelah menjalani masa berkabung selama 3 tahun.
Pada Februari 2018, dia melakukan perjalanan ke Korea Selatan bersama adik perempuan Kim Jong Un yang berpengaruh, Kim Yo Jong, untuk menghadiri upacara pembukaan Olimpiade Pyeongchang. Saat itu Korut berupaya memperbaiki hubungan dengan Korsel dan Amerika Serikat setelah bertahun-tahun bermusuhan.
Kunjungan tersebut menjadikan Kim Yong Nam sebagai pejabat Korut tertinggi yang mengunjungi Korsel sejak Kim Jong Un mengirim seorang perwira tinggi militer untuk menghadiri upacara penutupan Asian Games 2014 di Incheon.
Berasal dari Pyongyang, Kim Yong Nam menempuh pendidikan di Universitas Kim Il Sung dan Universitas Negeri Moskow, Rusia.