Karakoyunlulardan kalan Bağdad sarayı, İran işgalinde (1631-1638) Bektaş Han tarafından tamir edilerek kullanılmıştır. 1639 yılında Osmanlı valisi Derviş Mehmed Paşa, yapıyı hükumet konağı haline getirmiştir. 1656`da Vali Haseki Mehmed Paşa zamanında isyan eden yeniçeriler saraya girip yerleşince, yapının büyük bir bölümü kışla olmuş, valiler de Dicle kıyısına yapılan köşke çekilmişlerdir. 1802`de Vali Süleyman Paşa dağınık binaları yıktırarak vezirlik sarayı ile bir köşk yaptırmış, ancak 1831`de Davud Paşa`nın azl edilmesinden sonra bina yıkılmıştır. Bugünkü saray ve kışlanın birinci katı 1851 yılında Namık Paşa, ikinci katı 1868`de Mithat Paşa tarafından tamamlanmıştır. 1910-1911`da Nazım Paşa saray ve kışlayı tamir ettirmiştir.
Dicle kenarında uzanan Osmanlı saray ve kışlası, Vezir Camii`nin kuzeyinde, kapalı -Saray- çarşı tarafındaki köşkü ile çifte U şeklinde güneyden nehre bakan yüksek duvarlarla çevrili müstahkem bir yapıya sahiptir. Cedid Hasan Paşa Caddesi tarafında, birisi kışlaya diğeri saraya açılan 2 cümle kapısı mevcuttur. Ancak kışlanın kapısı sonradan kapıtılmıştır. Kapalı çarşı ile nehir arasında kalan köşk kısmına, alt kışla ile arasındaki sahanlıktan; üst kata bir köprüyle kışladan geçilmektedir.
