Masjid ini merupakan perpaduan budaya Sriwijaya dengan warna kekuningan dan budaya China dengan dominasi warna merah. Selanjutnya warnah hijau pada kubah melambangkan budaya Islam di Jazirah Arab.
Masjid ini dibangun pada 2003 dan mulai digunakan pada 2006 lalu. Pembangunan dimulai atas prakarsa Persatuan Islam Tionghoa Indonesia (PITI).
Pada awalnya menggunakan dana sumbangan umat Muslim China yang berada di Palembang sebesar Rp150 juta. Kemudian berdatangan sumbangan dari warga lainnya termasuk pemerintah daerah setempat.
Masjid ini dibangun dengan luas 625 meter persegi sehingga dapat menampung sekitar 600 jemaah. Di bulan suci Ramadhan ini, masjid ini tidak pernah sepi dari kegiatan keagamaan.
"Masjid ini juga menjadi pusat pengembangan pengetahuan bagi para Mualaf, para mualaf datang untuk mempelajari bacaan alquran," ujar Erni, pengurus Masjid Ceng Ho.