IKIP Mataram didirikan pada tanggal 1 April 1967 atas restu Panca Tunggal Nusa Tenggara Barat (sekarang Pemerintah Provinsi) yang ditindaklanjuti dengan berdirinya Yayasan Pembina IKIP Mataram dengan Akte Pendirian Nomor 6 Tanggal 13 Juli 1968 yang selanjutnya diubah dengan Nomor dan Tanggal Perubahan Terakhir Nomor 62 Tanggal 21 Mei 1968. Sejak 1 Juli 1968, IKIP Mataram Berstatus Terdaftar atas SK Direktorat Pendidikan Tinggi c.q. Dinas Perguruan Tinggi Swasta/Kedinasan Pusat Nomor 171/PT/III/1968 Tanggal 29 Juli 1968. Saat itu IKIP Mataram memiliki 3 (tiga) fakultas, yaitu: (1) Fakultas Ilmu Pendidikan (FIP) dengan Jurusan Pendidikan Umum, (2) Fakultas Keguruan Ilmu Eksakta (FKIE) dengan Jurusan Ilmu Pasti Alam, (3) Fakultas Keguruan Sastra Seni (FKSS) dengan Jurusan Bahasa dan Sastra Inggris. Pada tahun 1974, FKIE dan FKSS ditutup sementara karena keterbatasan mahasiswa dan selanjutnya dibuka kembali pada tahun 1980. Pada tahun 1975, FIP berkembang pesat dan dibuka jurusan baru, yaitu: (1) Jurusan Bimbingan dan Konseling dengan Status Terdaftar dari Kopertis Wilayah VI Nomor 89A/5/1976 Tanggal 17 Mei 1976, (2) Jurusan Administrasi Pendidikan (Tahun 1978), (3) Jurusan Pendidikan Sosial (1979). Pada tahun 1980 FKIE dengan Jurusan Biologi dan FKSS dengan jurusan Bahasa Inggris diaktifkan kembali dengan Surat Kopertis Wilayah VI Tanggal 6 Agustus 1980 Nomor 496/i-a/KPT-6/1980. Dengan surat yang sama, Fakultas Keguruan dan Ilmu Keolahragaan (FKIK) dengan Jurusan Pendidikan Olahraga berdiri.
Berdasarkan SK Mendikbud Tanggal 29 Nopember 1984 Nomor 0603/0/1984 Tentang Penyesuaian Jalur, Jenjang dan Program Pendidikan dan Penataan kembali Nama Unit, Jurusan, Program Studi, Status Terdaftar Pada Perguruan Tinggi Swasta dalam Lingkungan Kopertis WIlayah VIII, IKIP Mataram memiliki 4 (empat) fakultas dan 7 (tujuh) jurusan dengan Status Terdaftar, yaitu:
1. Fakultas Ilmu Pendidikan (FIP)
Jurusan Pendidikan Umum (PU), Program S1
Jurusan Bimbingan dan Penyuluhan (BP), Program S1 dan D3
Jurusan Administrasi Pendidikan (AP), Program S1
Jurusan Pendidikan Luar Sekolah (PLS), Program S1
2. Fakultas Pendidikan Matematika dan Ilmu Pengetahuan Alam (FPMIPA)
>> Jurusan Pendidikan Biologi, Program S1 dan D3
3. Fakultas Pendidikan Olahraga (FPOK)
>> Jurusan Pendidikan Olahraga, Program S1 dan D3
4. Fakultas Pendidikan Bahasa dan Seni (FPBS)
Jurusan Pendidikan Bahasa Inggris, Program S1 dan D3
Kekurangan Guru Matematika pada tahun 1986, membuka peluang bagi IKIP Mataram untuk membuka Jurusan Pendidikan Matematika di FPMIPA
Pada tahun 1990, IKIP Mataram memiliki beberapa Jurusan dengan STATUS DIAKUI, yaitu:
a. Jurusan Pendidikan Umum
b. Jurusan Bimbingan dan Konseling
c. Jurusan Administrasi Pendidikan
d. Jurusan Pendidikan Luar Sekolah
e. Jurusan Pendidikan Biologi
f. Jurusan Pendidikan Olahraga
g. Jurusan Pendidikan Bahasa Inggris
Pada tahun 1995, sesuai dengan Keputusan Menteri Pendidikan dan Kebudayaan RI Nomor 0217/V/1995 tentang Kurikulum Nasional Program Studi Pendidikan Sarjana Pendidikan, Jurusan di IKIP Mataram mengalami perubahan dan penyesuaian sebagai berikut:
1. Fakultas Ilmu Pendidikan (FIP)
Kurikulum dan Teknologi Pendidikan (TP)
Psikologi Pendidikan dan Bimbingan (PPB)
Administrasi Pendidikan (AP)
Pendidikan Luar Sekolah (PLS)
2. Fakultas Pendidikan Matematika dan Ilmu Pengetahuan Alam (FPMIPA)
Pendidikan Biologi
Pendidikan Matematika
3. Fakultas Pendidikan Olahraga (FPOK)
>> Pendidikan Jasmani, Kesehatan dan Rekreasi
4. Fakultas Pendidikan Bahasa dan Seni (FPBS)
>> Pendidikan Bahasa Inggris
Pada tahun 2009, Jurusan yang terdapat di IKIP Mataram adalah sebagai berikut:
1. Fakultas Ilmu Pendidikan (FIP)
Teknologi Pendidikan (TP)
Psikologi Pendidikan dan Bimbingan (PPB)
Administrasi Pendidikan (AP)
Pendidikan Luar Sekolah (PLS)
2. Fakultas Pendidikan Matematika dan Ilmu Pengetahuan Alam (FPMIPA)
Pendidikan Biologi
Pendidikan Matematika, yang merupakan perubahan dari D3 ke S1 dengan No. SK. 71/Dikti/Kep/1998 Tanggal 4 Maret 1998
Pendidikan Kimia (dibuka tahun 1998)
Pendidikan Fisika (dibuka tahun 2005), Ijin penyelenggaraannya No. 1196/D/T/2006 Tanggal 12 April 2006
3. Fakultas Pendidikan Olahraga (FPOK)
>> Pendidikan Jasmani, Kesehatan dan Rekreasi
4. Fakultas Pendidikan Bahasa dan Seni (FPBS)
>> Pendidikan Bahasa Inggris
Sejak berdirinya, IKIP Mataram telah melakukan beberapa kali pergantian kepengurusan. Pada tingkat yayasan adalah sebagai berikut:
Tahun 1996 s/d 1982, yang menjabat sebagai Ketua Yayasan adalah Drs. Said
Tahun 1982 s/d 1984, yang menjabat sebagai Ketua Yayasan adalah H.L. Wildan
Tahun 1984 s/d 2000, yang menjabat sebagai Ketua Yayasan adalah Drs. L. Azhar
Tahun 2000 s/d 2011, yang menjabat sebagai Ketua Yayasan adalah Drs. L. Ratmadji
Tahun 2011 s/d sekarang, yang menjabat sebagai Ketua Yayasan adalah H.L. Rusmiady, SH., MM.
Sedangkan pada tingkat rektorat adalah sebagai berikut:
Tahun 1967 s/d 1978, yang menjabat sebagai Rektor adalah Drs. L. Ahmad Muhidin
Tahun 1978 s/d 1982, yang menjabat sebagai Rektor adalah Prof. Drs. A. Abdul Karim Sahidu
Tahun 1982 s/d 2000, yang menjabat sebagai Rektor adalah Drs. H. Indun
Tahun 2000 s/d 2004, yang menjabat sebagai Rektor adalah Dr. Ir. Yusuf Akhyar Sutaryono
Tahun 2004 s/d 2006, yang menjabat sebagai Rektor adalah Drs. H. Fathurrahim, M.Si.
Tahun 2006 s/d 2013, yang menjabat sebagai Rektor adalah Dr. H. L. Said Ruhpina, SH., MS.
Tahun 2013 s/d 2017, yang menjabat sebagai Rektor adalah Prof. Drs. H. Toho Cholik Mutohir, MA., Ph.D
Tahun 2017 s/d sekarang, yang menjabat sebagai Rektor adalah Prof. Drs. Kusno, DEA., Ph.D
