Pertama kali dibangun pada 1810, Masjid Raya Bandung yang sebelumnya bernama Masjid Agung, dibangun bersamaan dengan pemindahan pusat Kota Bandung dari Krapyak, Dayeuhkolot ke Dalem Kaum, tak jauh dari De Groote Postweg atau Jalan Raya Pos yang saat ini berganti nama menjadi Jalan Asia Afrika.
Awalnya, arsitektur bangunan masjid ini berbentuk panggung tradisional sederhana, bercorak Sunda dengan kolam besar untuk mengambil air wudhu. Namun, seiring perubahan zaman, masjid yang memiliki luas 8.573 meter persegi ini pun telah mengalami belasan kali renovasi.
Menjelang Konferensi Asia Afrika pada 1955, Masjid Agung Bandung mengalamai perombakan besar-besaran. Atas rancangan Presiden RI pertama, Soekarno, Masjid Agung Bandung mengalami perubahan total, di antaranya kubah dari sebelumnya berbentuk "nyungcung" menjadi kubah persegi empat bergaya timur tengah seperti bawang.
Model kubah "nyungcung" bentukan Soekarno itu hanya bertahan kurang lebih 15 tahun, setelah rusak akibat diterpa angin kencang. Perombakan wajah Masjid Raya Bandung terus dilakukan sampai pada 2001 zaman Gubernur Jabar HR Nuriana.
Gubernur Jabar Ridwan Kamil yang kala itu menjabat sebagai Wali Kota Bandung pun punya andil dalam mengubah wajah Masjid Raya Bandung, salah satunya dengan menjadikan lahan alun-alun menjadi lapangan rumput sintetis.