Masjid Sultan ini diperkirakan telah dirintis sejak masa Sultan Zainal Abidin, namun ada juga yang beranggapan bahwa pendirian Masjid Sultan baru dilakukan awal abad ke-17.
Masjid baru dibangun sekitar tahun 1606 saat berkuasanya Sultan Saidi Barakati. Tapi hingga sekarang, belum ditemukan angka valid sejak kapan sebetulnya Masjid Sultan Ternate didirikan.
Bila melihat kenyataan sejarah, sebelum Sultan Saidi Barakati naik tahta, Kesultanan Ternate telah mengalami kemajuan yang sangat pesat, baik di bidang keagamaan, ekonomi, maupun angkatan perang.
Perjuangan Sultan Khairun (1534-1570) yang dilanjutkan oleh penerusnya, yaitu Sultan Baabullah (1570-1583) yang tercatat sejarah telah mengusir pasukan Portugis.