Keberadaan kerajaan ini pertama kali diketahui melalui Prasasti Tanjore, yang berbahasa Tamil dan bertarikh tahun 1025 dan 1030 Saka yang dibuat Raja Rajendracola I di India Selatan. Dalam candi itu disebutkan tentang penyerangannya ke Sriwijaya. Prasasti ini juga menyebutkan Kerajaan Panai dengan kolam airnya merupakan salah satu taklukan Rajendracola I dari Colamandala India.
Selain Panai, penyerbuan Cola ini juga disebutkan telah menaklukkan Malaiyur, Ilangasogam, Madamalingam, Ilamuridesam, dan Kadaram. Disebutkannya Kerajaan Panai sebagai salah satu negeri taklukan dalam penyerbuan ke Sriwijaya ini menimbulkan dugaan bahwa Kerajaan Panai adalah salah satu negeri anggota mandala Sriwijaya.
Tiga abad kemudian nama kerajaan ini kembali disebutkan dalam kitab Nagarakretagama, naskah kuno Kerajaan Majapahit tulisan Mpu Prapanca berangka tahun 1365 Saka. Dalam pupuh ke-13 disebutkan Pane sebagai bagian dari negeri-negeri di Sumatera yang di bawah pengaruh mandala Majapahit.
Lalu, ketika Dharmasraya berada di bawah kekuasaan Majapahit, Panai pun secara otomatis menjadi bagian dari kekuasaan Majapahit. Meskipun kurang dikenal, kerajaan Buddha beraliran Tantrayana ini meninggalkan sejumlah candi Buddha yang tersebar di kawasan Percandian Padanglawas. Jumlah candi yang ditinggalkan Kerajaan Panai kurang lebih 16 bangunan yang salah satunya adalah Candi Bahal.
Beberapa pakar arkeolog menyebut dugaan kekayaan alam Kerajaan Panai yang memungkinkan membangun 16 bangunan candi tersebut. Kemungkinan ini disangkutkan dengan pembiayaan candi dan topografi kerajaan, yang memungkinkan wilayahnya lebih subur dibandingkan saat ini.