Pada 2004, Ganjar mencalonkan sebagai anggota DPR namun tidak lolos. Ganjar kemudian menerima tugas sebagai pengganti antar waktu (PAW) untuk menggantikan rekan separtainya dari daerah pemilihan (dapil) yang sama, yaitu Jakob Tobing.
Jakob saat itu ditugaskan oleh Presiden Megawati Soekarnoputri menjadi Duta Besar (Dubes) untuk Korea Selatan. Saat menjadi anggota DPR periode 2004-2009, Ganjar ditugaskan di Komisi IV yang turut mengawasi bidang pertanian, perkebunan, kehutanan, kelautan, perikanan dan pangan.
Ganjar juga pernah ditempatkan pada Pansus RUU Partai Politik sebagai ketua. Pernah juga ditugaskan menjadi anggota Badan Legislasi (Baleg) DPR dan Ketua Pansus tentang MPR, DPR, DPD dan DPRD di DPR.
Pada periode kedua sebagai anggota DPR, Ganjar ditempatkan pada Komisi II yang mengawasi bidang Pemerintahan Dalam Negeri, Otonomi Daerah, Aparatur Negara, Reformasi Birokrasi, Pemilu, Pertanahan dan Reforma Agraria.
Ganjar mulai dikenal oleh publik saat menjadi anggota Pansus Hak Angket Bank Century sekaligus menjadi Wakil Ketua Komisi II DPR. Saat itu, Ganjar sebagai mahasiswa pascasarjana di FISIP UI sejak 2009, namunterpaksa cuti karena kesibukannya sebagai anggota DPR.