Musul atabeki Mücahideddin Kaymaz tarafından 1176-1180 tarihlerinde yaptırılmıştır. Asıl adı Ebu Mansur Kaymaz olan Mücahideddin, aslen Sicistanlı olup Zeyneddin Ebu Said Ali bin Beytekin tarafından esirler arasından satın alınmıştır. Daha sonra 1169-1180 yıllarında II. Seyfeddin Gazi ve kardeşi İzzeddin Mesud`a atabeklik yapmış, 1198`de Musul`da ölmüştür. Maristan, cami, medrese, ribat, yetimhane, çarşı ve kasr gibi pek çok mimari ve hayır eseri bulunan Mücahideddin Kaymaz, bu eserlerin yaşatılması için de zengin vakıflar tesis etmiştir.
Atabekler döneminde şehir surlarının dışında kalan cami, aslında medrese, maristan, ribat, yetimhane, kasr ve köprüden oluşan bir külliye içinde bulunuyordu. Seyahatnamelerde süsleme ve mimarisi destanlaşılarak anlatılan külliye, Moğol istilası sırasında şehirle birlikte harap olmuş, XVI. yy.daki göçler sırasında yapılar mesken olarak kullanılmıştır. 1726`da Musul Valisi Ali Paşa camiyi tamir ettirerek Hızır Aleyhisselam`a ithaf etmişti. Daha sonra 1793`te ölen yunus Efendi, 1847`de Vali Tayyar Ali Paşa tarafından tekrar elden geçirilmiştir. Bu tamir sırasında cami`in dış duvarları ve son cemaat yeri yenilenmiş, içi de kireçle sıvanmıştır. 1901`de Sultan II. Abdülhamid adına Vali Nuri Paşa avlu duvarı ile giriş kapılarını yeniden yaptırmıştır.
Dicle kıyısında, basit bir duvarla çevrilmiş 2100 m2`lik bir avlu içinde bulunan Mücahidi Camii`nin bitişiğindeki küçük hücre dışında diğer tüm yapıları yıkılmıştır.
