Kala itu Po Teumeureuhom merupakan Sultan Iskandar Muda yang berkuasa pada 1607-1636. Dia bersama bersama masyarakat membangun masjid tersebut secara bergotong-royong.
Dikisahkan bahwa kala itu masyarakat bersedia berdiri sekitar 30 kilometer untuk mengangkut batu secara estafet dari Kecamatan Muara Tiga ke Labui.
Po Teumeureuhom sempat mendatangkan arsitek dari Cina untuk membangun masjid yang kemudian dilestariskan sebagai cagar budaya saat ini.
Sementara itu Yacob (85) sebagai salah satu pengurus masjid menyebutkan, ketika itu aktivitas di dalam masjid dijadikan sebagai pusat pendidikan Islam. Banyak santri berasal dari Pidie, Aceh Barat, dan Aceh Timur menimba ilmu agama di Masjid Raya Po Teumeureuhom ini.
Masjid raya ini letaknya lebih kurang 4 kilometer sebelah barat kecamatan Kota Sigli. Pada masa Po Teumeureuhom pernah dijadikan sebagai masjid Kerajaan Pedir atau Masjid Kabupaten.