Palembang dijuluki Kota Pempek tidak terlepas dari sejarah asal mula pempek di Bumi Sriwijaya. Konon pempek sudah ada sejak abad ke-16 saat Palembang dikuasai Kesultanan Palembang Darussalam. Pada masa itu, Palembang yang dikenal dengan banyak sungai, ikannya berlimpah.
Masyarakat kemudian membuat kudapan yang merupakan campuran daging ikan yang dihaluskan dengan alat sederhana tentunya dengan sagu atau tepung tapioka. Diketahui, sagu salah satu tanaman yang ditanam oleh Kerajaan Sriwijaya.
Terdapat dua versi mengenai asal mula nama pempek, namun memiliki kesamaan yakni dijual pria tua asal China yang biasa dipanggil Apek. Ada yang menyebut, makanan tradisional ini awalnya bernama kelasan yang dibuat untuk kudapan keluarga atau tidak dijual.
Namun kemudian, seorang pria tua perantau asal China yang memang memiliki jiwa dagang, kelasan tersebut dijual yang salah satunya di sekitar Masjid Agung. Pria perantau asal Tiongkok itu dipanggil apek, sehingga kemudian kelasan yang dijualnya lebih disebut pempek.
Sementara versi kedua, tidak disebutkan nama awalnya kelasan, namun langsung pempek yang berasal dari kebiasaan orang yang hendak membelinya dengan panggilan Apek pada pria keturunan China yang menjualnya. Sejak saat itu, pempek terus berkembang dengan berbagai variasi hingga saat ini.