MTsN 2 Bireuen merupakan sebuah madrasah yang sudah sangat lama didirikan di kota Matangglumpangdua, tepatnya di desa Matang Sagoe. Pada dasarnya, MTsN 2 Bireuen didirikan oleh putra Peusangan asli yang berasal dari gampong Meunasah Meucap yang bernama Tgk. Abdurrahman Meunasah Meucap bersama dengan tokoh yang bernama Ampon Chiek Peusangan (Teuku Muhammad Djohan Alamsyah) beserta kawan-kawannya yang bernaung di bawah Yayasan Almuslim. Pada awalnya, MTsN 2 Bireuen diberi nama SMI (Sekolah Menengah Islam) yang dipimpin oleh Abdullah Rasyid pada tahun 1950. Kemudian namanya diubah menjadi SRN 7 yang dipimpin oleh Safiah Harun.

Dari nama SRN diubah lagi menjadi Madrasah Mu’allimin Almuslim Peusangan sejak tahun 1956-1957 yang terdiri dari 6 tingkat dan 6 lokal, yaitu tingkat 1, 2 dan 3 diserahkan kepada MTsN pada tahun 1968 dengan kepala madrasah Tgk. Abbas Bardan. MTsN 2 Bireuen dinegerikan pada tanggal 20 Februari tahun 1968. Selanjutnya nama MTsN diubah lagi menjadi MTsN Matangglumpangdua. Sesuai dengan komitmen MTsN Matangglumpangdua sebagai salah satu madrasah berciri khas Islam dengan menerapkan kurikulum berciri khas Islam dengan muatan kurikulum 65% bidang agama dan 35% bidang umum.

Kemudian pada tahun 2017, tepatnya pada awal semester ganjil, MTsN Matanggalumpangdua kembali berubah nama menjadi MTsN 2 Bireuen. Nama tersebut merupakan nama yang secara resmi digunakan sampai dengan sekarang. Sejak berdirinya hingga sekarang, MTsN 2 Bireuen telah dipimpin oleh kepala-kepala terbaik yaitu: