Panglima Soedirman tidak menyerah tetapi melanjutkan perjuangan gerilya dengan ke luar dari Ibu Kota Yogyakarta. Sesuai perintahnya, Djamin Ginting melancarkan perang gerilya terhadap pasukan Belanda yang berpusat di kota Medan.
Pada 23 Desember 1948, pasukan Djamin menyerang pos terdepan pasukan Belanda di Tanah Karo yang berbatasan langsung dengan Tanah Alas. Pasukannya dapat menguasai pos militer Belanda di Mardinding dan Lau Baleng. Memasuki tahun 1949, pasukan Djamin menyergap konvoi pasukan Belanda di Tigakicat dekat Kampung Berastepu.
Wilayah pertempurannya meliputi: Selalwang, Bukum, Basukum, Pernangenen, Batusianggehen, Layosigayo, Namo Cengkih, dan lain-lain. Selama perang kemerdekaan, pasukan Resimen IV TNI berhasil mengamankan Aceh sebagai Daerah Modal karena pasukan Belanda tidak berhasil menguasainya.
Perang Indonesia-Belanda diakhiri dengan serangkaian perundingan pada tahun 1949. Namun pertempuran terus berlangsung selama proses perundingan sebelum tercapainya gencatan senjata. Dalam pertempuran ini, Djamin Ginting sempat tertangkap pasukan Belannda. Pasukan Belanda membebaskannya setelah mendapat kecaman keras dari pemerintah pusat Republik Indonesia.
Perdamaian antara Pemerintah Indonesia dan Belanda tercapai pada akhir tahun 1949 setelah Pemerintah Belanda menyerahkan kedaulatannya kepada Pemerintah Indonesia. Pada masa awal perdamaian ini Pemerintah Indonesia mengangkat Djamin Ginting sebagai Komando Basis Kota Medan (KBKM) yang kemudian diubah menjadi Komando Militar Kota Besar (KMKB) Medan, cikal bakal Komando Militer Bukit Barisan.