Rancangan pembinaan Institut Pendidikan Guru Kampus Sultan Abdul Halim, sebelum ini dikenali sebagai Maktab Perguruan Sultan Abdul Halim Sungai Petani bermula sejak tahun 1976. Institut ini merupakan institut pendidikan guru yang pertama dibina di Negeri Kedah Darul Aman.

Serentak dengan rancangan pembinaannya di Sungai Petani, Institut ini mula berfungsi di Pulau Pinang dengan menggunakan nama Maktab Perguruan Jalan Northam. Sekitar tahun 1978 dan 1979,antara bangunan-bangunan yang siap dibina ialah sebuah blok pentadbiran dan bilik-bilik kuliah, 8 buah blok asrama yang tiap-tiap satu boleh menampung 90 orang pelajar, dewan syarahan, sebuah bangunan perpustakaan, sebuah gimnasium, sebuah dapur dan dewan makan, 4 unit flat untuk pensyarah, 24 unit rumah pekerja, dan rumah pengarah.

Perpindahan dari Jalan Northam, Pulau Pinang ke Sungai Petani, Kedah bermula pada pertengahan tahun 1979. Pada mulanya institut ini dikenali sebagai Maktab Perguruan Sungai Petani kemudian ditukar kepada Maktab Perguruan Sultan Abdul Halim setelah diperkenankan oleh Duli Yang Maha Mulia Tuanku Sultan Kedah Darul Aman. Dalam bulan Oktober, Majlis Penyampaian Sijil yang pertama telah diadakan. Seramai 319 orang guru pelatih yang menerima latihan di Maktab Perguruan Jalan Northam dan di Sungai Petani telah menerima Sijil Perguruan mereka daripada Yang Berbahagia, Tan Sri Dato' Ketua Pengarah Pelajaran Malaysia dalam majlis tersebut.

Pada April 2006, selaras dengan pengumuman peningkatan taraf institut perguruan oleh Timbalan Perdana Menteri Datuk Seri Mohd. Najib Tun Abdul Razak, nama Institut Perguruan  Sultan Abdul Halim telah ditukarkan kepada Institut Pendidikan Guru Malaysia Kampus Sultan Abdul Halim.