Masjid ini diberi nama Masjid Al-Muhajirin karena masjid ini dibangun sebagai tempat ibadah bagi masyarakat dusun kawae Desa Maria Utara yang kesemuanya adalah penduduk pindahan. Sebelumnya mereka bermukim tidak jauh dari tempat yang didiaminya sekarang. Karena jarak antar rumah warga yg relatif jauh antara satu dengan yang serta kondisi geografis yang cukup sulit, pemerintah memindahkannya ke tempat ini melalui program ABRI masuk desa.