Komplek pemakaman Bungkul sudah ada sejak jaman Hindu. Lengkungan gapura pada makam dan pagar menunjukkan gaya arsitektur Hindu Jawa pada jaman Majapahit. Makam Bungkul merupakan Kompleks makam seluas 2.800 meter persegi yang berdiri di kawasan Darmo.
Berdasarkan Folklore yang di percaya masyarakat, di dalam komplek terdapat makam para tokoh sejarah penyebaran agama islam diantaranya Mbah Bungkul, Nyai Ageng Bungkul, Tumenggung Jang Rono, Sedo Rono dan Abu Serah. terdapat juga makam Canggah Bogopati, Bupati Janggut, Kyai Sudin dan Kyai Kardi yang merupakan murid sekaligus empat juru kunci makam pertama kompleks makam ini. Dikisahkan bahwa makam Jang Rono yang berada di komplek makam Mbah Bungkul, merupakan murid Mbah Bungkul dan pernah menjabat sebagai Bupati Soerabaia.
Berdasarkan penjelasan juru kunci atau tradisi lisan yang lebih merupakan legenda bahwa area makam Mbah Bungkul dulunya merupakan kawasan pemakaman umum dan sejumlah makam pengikut Mbah Bungkul banyak tersebar di kawasan Darmo dan sebagian sudah tergusur. Pada masa pertempuran Surabaya, diwilayah kawasan sekitar makam Mbah Bungkul, setiap pesawat militer milik Belanda yang melewati atau melintasi atas makam maka pesawat tersebut akan jatuh tak jauh dari wilayah tersebut.
Di area makam Mbah Bungkul, selain pusara terdapat dua tempat lain yaitu musholla dan sumur tua yang diyakini sebagai warisan Mbah Bungkul yang masih terawat dengan baik. Musholla yang bangunannya sudah direnovasi sehingga terlihat seperti musholla jaman sekarang, konon musholla itu dibangun oleh Mbah Bungkul. Di area makam terdapat sumur tua yang diapit pohon sawo kecik dan beringin, yang dipercaya dibuat oleh mbah Bungkul dan Raden Rahmat (Sunan Ampel).
Konon Raden Rahmat ngawulo atau menetap di kawasan Bungkul yang saat itu masih berupa hutan belantara. Raden Rahmat atau Rahmatullah (kemudian dikenal sebagai Sunan Ampel) diyakini pernah singgah di tempat ini setelah berbulan-bulan melakukan perjalanan dengan naik perahu dari Trowulan, Majapahit (sekarang Mojokerto, Jatim). Bersama Mbah Bungkul, Raden Rahmat menekuni kegiatan keagamaan di Bungkul. Suatu malam Mbah Bungkul dan Raden Rahmat saat akan mengambil air wudhu untuk sholat malam tidak menjumpai air. Kemudian, sesaat setelah bermunajad, Raden Rahmat mengajak Mbah Bungkul untuk menggali tanah. Dalam sekejap galian itu sudah mengeluarkan air yang sangat bening dan sejuk. Galian air berbentuk sumur yang hingga kini airnya masih bisa dimanfaatkan untuk minum para penziarah makam. Air yang diyakini berkaromah dan mujarab itu ditempatkan dalam kendi-kendi yang terbuat dari tanah liat.
Terdapat juga sumber tertulis terkait keberadaan makam bungkul. Pertama, Prasasti Canggu bertarikh 1358 Masehi di era pemerintahan Hayam Wuruk. Topinimi bungkul disebutkan sebagai salah satu desa-desa yang berada di tepi sungai (naditira pradesa). “i gsang, i bukul, i surabhaya, muwah prakaraning naditira pradesa” Sumber : Prasasti Canggu, Lempeng 5r Baris 4. Kedua, catatan Von Faber berjudul Er Werd Een Stad Geboren (lahirnya sebuah kota). Dalam buku itu disebutkan, darmo memiliki arti tempat pemakaman orang-orang baik hati, dermawan, berani bertindak, telah menjalankan tugasnya, sehingga terus dikenang dalam doa-doa yang khusyuk. Makam Bungkul bermakna penting bagi sejarah penyebaran Islam sekaligus jejak nyata tumbuh dan lahirnya peradaban di Kota Surabaya.
Pada tahun 2007, dilakukan revitalisasi besar pada kompleks Taman Bungkul. diantaranya penambahan fasilitas seperti amphiteater, jogging track, dan air mancur. sedangkan untuk makam bungkul dipertahankan sebagai bagian integral taman. Revitalisasi taman bungkul ini menjadi salah satu ruang publik terfavorit di surabaya dan meraih penghargaan The Asian Townscape Award dari PBB pada tahun 2013. Keberhasilan revitalisasi ini menjadi contoh harmonisasi antara pelestarian sejarah dan pembangunan modern.