Pendidikan Agama Islam merupakan salah satu jurusan yang ada di Universitas Islam Negeri (UIN) Walisongo Semarang. Dari banyaknya jurusan di kampus kita, siapa sangka jurusan PAI justru menjadi paling tua di UIN Walisongo Semarang. Karena menjadi jurusan paling tua, maka tak mengherankan jika jurusan yang satu ini memiliki sejarah yang hampir sama dengan sejarah IAIN Walisongo pada kala itu.

Pendidikan Agama Islam dalam Fakultas Tarbiyah IAIN Walisongo yang semula bernama Pendidikan Agama, pertama kali ada karena penggabungan Fakultas Tarbiyah Institut Keguruan dan Ilmu Pendidikan (IKIP) Nahdlatul Ulama (NU) Salatiga bersamaan dengan penegeriannya. Penegerian Fakultas Tarbiyah IAIN Walisongo tersebut atas dasar Surat Keputusan (SK) Menteri Agama Nomor 30 Tahun 1970 tanggal 6 April 1970. Penegerian tersebut bersamaan dengan peresmian penegerian IAIN Walisongo berdasarkan Keputusan Menteri Agama RI No. 30 dan 31 tahun 1970 pada tanggal 6 April 1970, dan yang ditunjuk selaku rektor saat itu (rektor pertama sejak IAIN Walisongo dinegerikan) adalah KH. Zubair (Ketua panitia pendiri Fakultas Tarbiyah Nahdlatul Ulama sekaligus Dekannya) yang menjabat hingga tahun 1973.

Fakultas Tarbiyah IKIP Nahdlatul Ulama Salatiga muncul, karena cita-cita masyarakat Islam Salatiga untuk memiliki Perguruan Tinggi Islam. Berkat dukungan dari berbagai pihak, khususnya para ulama dan pengurus Nahdlatul Ulama Jawa Tengah. Akhirnya, lembaga ini berdiri menempati gedung milik Yayasan Pesantren Luhur, yang berlokasi di Jalan Diponegoro Nomor 64 Salatiga.

Sementara, Fakultas Tarbiyah Kudus yang semula menjadi bekal pendirian IAIN Walisongo di Semarang, justru mengalami keterlambatan dalam proses penyelesaian administrasi pemindahan fakultas dengan IAIN Walisongo. Meskipun, berdasarkan Keputusan Menteri Agama RI No. 32 tahun 1970 beralih status menginduk ke IAIN Walisongo Semarang. Namun, tahun 1966 sampai 1970, Fakultas Tarbiyah di Kudus adalah cabang dari IAIN Sunan Kalijaga. Serta saat itu IAIN Sunan Kalijaga memandang bahwa berdirinya IAIN Walisongo akan menjadi induk baru bagi Fakultas Tarbiyah Kudus yang berarti mengurangi pasokan mahasiswa IAIN Sunan Kalijaga dari pesisir utara Jawa Tengah. Oleh sebab itu, proses penyelesaian administrasi pemindahan fakultas baru dilaksanakan pada tahun 1971.

Meskipun Fakultas Tarbiyah Kudus baru menyelesaikan administrasi pemindahan ke IAIN Walisongo pada tahun 1971, namun Fakultas Tarbiyah Kudus lebih dahulu menjadi Fakultas Induk IAIN Walisongo dari pada Fakultas Tarbiyah di Salatiga. Karena berdasarkan Keputusan Menteri Agama RI No. 35 Tahun 1973, Fakultas Tarbiyah cabang Kudus dipindahkan lokasinya ke Semarang dan berubah status sebagai Fakultas Induk. Hal ini terlihat bertolak belakang dengan Fakultas Tarbiyah IAIN Walisongo di Salatiga yang lebih dahulu bergabung dengan IAIN Walisongo tapi masih menjadi Fakultas Cabang.

Fakultas Tarbiyah Kudus yang sebelumnya bernama Sekolah Tinggi Agama (STA) Kudus, terbit berawal dari gagasan dan pemikiran Drs. Soenarto Notowdagdo untuk mendirikan sebuah perguruan tinggi Islam yang berpusat di pantai utara Jawa Tengah. Karena, mayoritas penduduk Jawa Tengah, khususnya bagian utara beragama Islam. Oleh sebab itu, kehadiran perguruan tinggi Islam merupakan kebutuhan di samping untuk mendalami ajaran Islam, juga untuk menanggulangi agitasi PKI waktu itu, serta untuk dakwah Islamiyah.

STA Kudus yang rencana awalnya diberi nama Fakultas Dakwah. Namun, karena eksistensi Fakultas Dakwah belum memungkinkan berdiri sendiri, maka rencana tersebut berubah menjadi Fakultas Agama. Meski demikian Menurut Soenarto Notowidagdo, penolakan terhadap berdirinya fakultas dakwah tersebut didasari oleh alasan yang disampaikan oleh Prof. Mukti Ali, selaku Rektor IAIN Sunan Kalijaga waktu itu bahwa keberadaan dakwah sebagai fakultas belum pernah ditemui di lembaga akademik manapun, termasuk di Universitas Kairo, Mesir. Dakwah hanya ada sebagai jurusan.

Dalam perkembangannya, Fakultas Agama berubah menjadi Fakultas Tarbiyah yang memiliki satu jurusan, yakni pendidikan agama. Melalui SK Menteri Agama No. 4 tahun 1966 tertanggal 10 Agustus 1966, status Fakultas Tarbiyah Kudus ditingkatkan menjadi negeri dan menjadi salah satu cabang dari IAIN Sunan Kalijaga dan baru beralih status menginduk ke IAIN Walisongo Semarang pada tahun 1970 melalui Keputusan Menteri Agama RI.