Gua kedua Sigolgolo disebut di dalam serial lakon wayang Bima Rare, yang menampilkan kepahlawanan tokoh wayang Bima, khususnya lakon Bale Sigolgolo, yang ketika masih muda datang ke gua itu untuk bersemedi mencair air kehidupan dan melewati ujian api.
Diponegoro kemudian melintasi kaki Gunung Kidul dan pergi ke Gua Langse. Gua ini memiliki lokasi yang menjorok di atas lautan selatan Yogyakarta, yang bergemuruh itu. Lokasi gua ini seperti menggantung di atas laut. Maka hanya dapat dicapai lewat jalan terjal setapak menuruni karang-karang kapur, dan melalui suatu jalan masuk yang nyaris sejajar dengan permukaan air laut.
Gua ini dan situs-situs ziarah di dekatnya, seperi di Parangtritis, Parangkusumo, dan Parangwedang, sebuah sumber air hangat. Konon di lokasi-lokasi ini pula adalah tempat yang penting dalam kultus lokal Ratu Kidul. Pada mitologi Jawa, Ratu Kidul adalah pelindung sekaligus 'istri' dari para raja keraton Jawa tengah bagian selatan, yang keindahannya pasang dan surut sesuai fase bulan.
Konon di kawasan-kawasan ziarah inilah tepatnya di Parangtritis Panembahan Senopati yang kala itu bersemedi di dalam gua, sempat bertemu dengan Ratu Kidul di istana bawah lautnya. Ketika dia kembali Senopati juga dikisahkan bertemu dengan Sunan Kalijogo yang juga menemui Pangeran Diponegoro.
Saat Diponegoro mengunjungi gua-gua dan tempat ziarah di tahun 1805, tempat ini sudah menjadi situs peziarahan yang penting. Sultan kedua Mataram membuat perjalanan rutin ke sana selama masa-masa awal pemerintahannya dan punya kebiasaan tinggal di Mancingan, selama beberapa hari.
Pondok-pondok kecil terbuka dibangun di tepi laut di Parangkusumo, Parangwedang, dan Parangtritis, untuk tempat bersemedi dan melakukan upacara-upacara yang ditujukan bagi Dewi Pantai Laut Selatan.