SMPN 3 dan 4 ini dulunya adalah sekolah MULO (Meer Ultgebreid Lager Onderwijs) Negeri pertama yang berdiri sejak th. 1890 di wilayah Indonesia Bagian Timur, di jalan Praban No. 3 Surabaya. Awalnya sekolah ini mempunyai 4 tingkatan: Voorklas, Kelas 1, Kelas 2 dan kelas 3. Voorklas tidak selalu harus dilalui bagi yang cukup pandai bisa langsung ke Kelas 1. Sekolah MULO ini sekarang bisa disejajarkan dengan SMP (Sekolah Menengah Pertama). Karena letaknya ada di Jl. Praban, maka sejak dulu terkenal dengan sebutan MULO Praban.
Sampai abad ke 19, sekolah lanjutan yang ada di Surabaya hanya dua sekolah Negeri untuk umum dan dua sekolah swasta yang peruntukannya khusus. Kedua sekolah negeri tersebut ialah H.B.S di Kebonrojo dan MULO Praban, sedang sekolah swastanya ialah: Katholieke MULO dan MULO Buys. Kemudian tahun 1928 disusul berdirinya MULO Ketabang (sekarang dipakai SPG I jl. Teratai). Dan kira-kira tahun 1930 berdiri lagi A.M.S (Algemeene Middelbare School, sekarang sejak tahun 1952 menjadi SMAN 4, di jl. Prof. dr. Moestopo 4.)
Pada jaman Jepang Setelah ditutup beberapa waktu, MULO Praban dibuka kembali dengan nama Dai Ichi Shooto Chuu Gakkoo atau SMP 1 Praban, menempati Gedung ex MULO dan ex ELS Boeteweg (Tanjunganom)
Sampai jaman kemerdekaan Tahun 1951-1952 gedung ini dipakai oleh Nederlands Militaire Missie (NMM) untuk menyelenggarakan Applicatie Cursus Voor Zee Officieren dari ALRI, dibawah pimpinan Mayor Hunholzt. Semua KASAL (Kepala Staf Angkatan Laut) RI dan Angkatan 45 pernah di didik disini. Itulah sebabnya mengapa SMP I kemudian berpindah menempati bekas gedung ELS di Jl. Pacar mulai tahun 1950. Sedangkan SMP II menempati gedungnya di Jalan Kepanjen (mulai tahun 1952) bekas SMA Peralihan yang pindah ke gedung ex Christeliike MULO di Jl. Gentengkali 33 (sekarang Kanwil P dan K Jatim) yang kemudian menjadi SMA III.
Sampai tahun 1920 MULO Praban adalah satu-satunya sekolah menengah pertama negeri di Surabaya, dan bahkan di Jawa Timur. Pada zaman Jepang nama MULO diganti dengan Sekolah Menengah Pertama (SMP) Negeri 1 Surabaya. Setelah kemerdekaan SMP Negeri 1 Praban diubah menjadi SMP Negeri 3 Praban, Surabaya. Selanjutnya karena tuntutan zaman pada tahun 1953, SMP Negeri 3 Praban dipecah menjadi dua sekolah, yaitu: SMP Negeri 3 Surabaya dan SMP Negeri 4 Tanjunganom Surabaya.
Para pelajar SMP Negeri 3 Praban yang pada zaman di Surabaya segera bergabung dengan BKR (Badan Keamanan Rakyat). Untuk itu para pelajar segera membentuk BKR Pelajar yang terdiri dari Staf I (SMT Jl. Darmo; sekarang sekolah Santa Maria), Staf II (STM Patua; sekarang SMK Negeri 2), Staf III (SMP Negeri 1 Praban), dan Staf IV (eks BKR Rayon Heerenstraat Jembatan Merah dan sekitarnya). Karena lokasinya yang strategis dan jiwa heroiknya yang tinggi dan menggelora, hampir semua peristiwa penting menjelang meletusnya peristiwa 10 November 1954 tidak lepas dari perhatian dan peran keterlibatan siswa-siswa SMP Negeri Praban. Berdasarkan Maklumat Pemerintah tanggal 25 September 1945 nama BKR diubah menjadi TKR (Tentara Keamanan Rakyat). Mengikuti derap perjuangan tersebut BKR Staf III kemudian diubah menjadi TKR Pelajar. Dari keempat kesatuan TKR Pelajar di Surabaya itu yang memiliki anggota terbanyak 200 pelajar lebih adalah TKR Staf III Praban.
