SMK Muhammadiyah 4 Yogyakarta berdiri pertama kali bernama SPG Muhammadiyah 3 Putri Yogyakarta pada tahun 1959 yang dipimpin oleh H. Munodo, S.H. Kemudian pada tahun 1989 alih fungsi dan bernama SMKK Muhammadiyah Yogyakarta yang dipimpin oleh H. Muhammad Zainuddin A. Kariya, S.H sejak tahun 1982 dengan dibantu oleh ibu Hj. Elyda Djazman, B.A sebagai wakilnya.

Pada tahun 1999 SMKK Muhammadiyah Yogyakarta yang pada waktu itu Jurusan Kesejahteraan Keluarga bidang Menjahit berganti nama menjadi SMK Muhammadiyah 4 Yogyakarta, dengan program keahlian Tata Busana yang dipimpin oleh Hj. Emyati Ismail, B.A sampai tahun 2009.

Kemudian sejak tanggal 31 Agustus 2009, SMK Muhammadiyah 4 Yogyakarta dipimpin oleh Bapak Drs. H. Ahmad Dahlan sampai sekarang. Pada tahun 2011 Drs. H. Ahmad Dahlan resmi membuka program keahlian baru, yaitu Teknik Komputer dengan kompetensi keahlian Rekayasa Perangkat Lunak. Sehingga pada tahun ajaran 2011/2012, SMK Muhammadiyah 4 Yogyakarta memiliki program keahlian : Tata Busana dengan jumlah 72 siswa (2 kelas) dan Teknik Komputer dengan jumlah 36 siswa (1 kelas).