SMA Negeri 4 Malang merupakan salah satu sekolah milik pemerintah yang masuk dalam kompleks elit SMA Tugu Kota Malang bersama SMA Negeri 1 dan SMA Negeri 3. Dalam sejarahnya, SMA ini ternyata sempat tukar gedung dengan SMA Negeri 2 Malang.
Secara logika saja, dalam deretan kompleks SMA Tugu, seharunya yang berada di antara SMA Negeri 1 dan SMA Negeri 3 adalah SMA Negeri 2. Tapi buktinya, SMA Negeri 2 Malang berada di Jalan Laksamana Laut RE Martadinata, Kelurahan Sukoharjo, Kecamatan Blimbing.
Dulu, saat zaman penjajahan Belanda, kompleks SMA Tugu ditempati sekolah dengan nama HBS (Hoogere Burger School) khusus untuk anak-anak Belanda dan AMS (Algemeene Middlebare School) untuk warga umum di Kota Malang. Selain pernah dipakai oleh kedua sekolah bentukan Belanda tersebut, gedung SMA Negeri 4 Malang pernah digunakan untuk proses belajar-mengajar Sekolah Pertanian Menengah Atas (SPMA), Sekolah Menengah Atas (SMA) dan Sekolah Menengah Tehnik (STM). Hal itu bisa diketahui dari prasasti yang ditandatangani oleh R. Oesman tertanggal 12 November 1981 yang berada di halaman sekolah.
SMA dengan semboyan Studium et Sapientia (Stetsa) ini baru memulai tahun ajarannya pada 5 Januari 1959, meskipun sudah didirikan sejak setahun sebelumnya, berdasarkan Surat Keputusan Pemecahan bertanggal 16 September 1958. Sebelum itu, terutama sejak pemerintah RI mendirikan sekolah-sekolah pada tahun 1954, SMA Negeri 4 masih bergabung dengan SMA Negeri 1 yang masih bernama SMA 1 AC, dan hanya membuka jurusan ilmu-ilmu sosial dan budaya.
Saat itu, kompleks SMA Tugu juga dihuni oleh SMA II B (SMA Negeri 2) dan SMA III B (SMA Negeri 3). Berbeda dengan SMA I AC, kedua sekolah tersebut membuka jurusan khusus ilmu pasti. Pada pertengahan bulan September 1958, pemerintah memecah SMA I AC menjadi dua SMA, yakni SMA I AC dan SMA IV AC, melalui Surat Keputusan Pemecahan Nomor 43/SK/B.III tanggal 16 September 1958. Sejak turunnya surat keputusan tersebut, untuk melangsungkan proses belajar-mengajarnya, SMA IV AC Malang memilih untuk menempati gedung yang terletak di luar kompleks SMA Tugu. Gedung itu berada di Jalan Klenteng yang sekarang telah berubah menjadi Jalan Laksamana Laut RE Martadinata No. 84, Kelurahan Sukoharjo, Kecamatan Blimbing.
Tak lama berselang, SMA II B Malang ditunjuk pemerintah sebagai salah satu sekolah yang menjadi peserta Proyek Percontohan dengan nama SMA II Teladan. Penunjukan itulah yang menjadi salah satu alasan yang melatarbelakangi pertukaran gedung SMA IV Malang dengan gedung SMA II B Malang Malang. Sejak saat itu, SMA Negeri 4 Malang kembali bergabung dengan kompleks SMA Tugu di depan Balaikota Malang di kawasan Alun-alun Tugu yang bersejarah. Saat ini sekolah tersebut menempati gedung di Jalan Tugu Utara No. 1, Kelurahan Kiduldalem, Kecamatan Klojen, Kota Malang.
