Dia sempat ditugaskan ke Schenectady, New York oleh Laksamana Hyman Rickover untuk program kapal selam nuklir. Di kota metropolitan itu Carter mengambil program pascasarjana di Union College dalam bidang teknologi reaktor dan fisika nuklir serta menjabat sebagai perwira senior awak pra-komisioning kapal selam bertenga nuklir Seawolf.
Pada 7 Juli 1946, dia menikah dengan Rosalynn Smith juga berasal dari Plains. Setelah ayahnya meninggal pada 1953, dia mengundurkan diri dari jabatannya di angkatan laut untuk pulang ke Georgia.
Carter lalu mengambil alih bisnis pertanian keluarganya. Dia dan Rosalynn lalu menjalankan Carter's Warehouse, perusahaan benih dan perlengkapan pertanian serbaguna di Plains. Selain itu dia juga aktif di masyarakat, bertugas di dewan daerah yang mengawasi pendidikan, otoritas rumah sakit, dan perpustakaan.
Pada 1962 dia memenangkan pemilihan Senat Georgia dari Partai Demokrat. Namun kalah dalam pemilihan gubernur pertamanya pada 1966.
Tidak menyerah, Carter memenangkan pemilihan berikutnya, menjadi Gubernur Georgia ke-76 pada 12 Januari 1971. Selain itu dia menjadi ketua tim kampanye Komite Nasional Demokrat untuk pemilihan anggota Kongres dan gubernur pada 1974.