Komplek pemakaman Bungkul sudah ada sejak jaman Hindu. Lengkungan gapura pada makam dan pagar menunjukkan gaya arsitektur Hindu Jawa pada jaman Majapahit.
Di komplek terdapat makam para tokoh sejarah kota, yaitu : Mbah Bungkul, Ratu Kamboja, Ratu Campa, Temenggung Jayenggrono. Dikisahkan bahwa makam Jayenggrono yang berada di komplek makam Mbah Bungkul di sisi barat, merupakan murid Mbah Bungkul dan pernah menjabat sebagai Bupati Soerabaia.
Berdasarkan penjelasan juru kunci atau tradisi lisan yang lebih merupakan legenda bahwa area makam Mbah Bungkul dulunya merupakan kawasan pemakaman umum dan sejumlah makam pengikut Mbah Bungkul banyak tersebar di kawasan Darmo dan sebagian sudah tergusur. Pada masa pertempuran Surabaya, diwilayah kawasan sekitar makam Mbah Bungkul, setiap pesawat militer milik Belanda yang melewati atau melintasi atas makam maka pesawat tersebut akan jatuh tak jauh dari wilayah tersebut.
Di area makam Mbah Bungkul, selain pusara terdapat dua tempat lain yaitu musholla dan sumur tua yang diyakini sebagai warisan Mbah Bungkul yang masih terawat dengan baik. Musholla yang bangunannya sudah direnovasi sehingga terlihat seperti musholla jaman sekarang, konon musholla itu dibangun oleh Mbah Bungkul. Di area makam terdapat sumur tua yang diapit pohon sawo kecik dan beringin, yang dipercaya dibuat oleh mbah Bungkul dan Raden Rahmat (Sunan Ampel).
Konon Raden Rahmat ngawulo atau menetap di kawasan Bungkul yang saat itu masih berupa hutan belantara. Raden Rahmat atau Rahmatullah (kemudian dikenal sebagai Sunan Ampel) diyakini pernah singgah di tempat ini setelah berbulan-bulan melakukan perjalanan dengan naik perahu dari Trowulan, Majapahit (sekarang Mojokerto, Jatim). Bersama Mbah Bungkul, Raden Rahmat menekuni kegiatan keagamaan di Bungkul. Suatu malam Mbah Bungkul dan Raden Rahmat saat akan mengambil air wudhu untuk sholat malam tidak menjumpai air. Kemudian, sesaat setelah bermunajad, Raden Rahmat mengajak Mbah Bungkul untuk menggali tanah. Dalam sekejap galian itu sudah mengeluarkan air yang sangat bening dan sejuk. Galian air berbentuk sumur yang hingga kini airnya masih bisa dimanfaatkan untuk minum para penziarah makam. Air yang diyakini berkaromah dan mujarab itu ditempatkan dalam kendi-kendi yang terbuat dari tanah liat.
