Karaali Beldesi 1348 tarihinde Konya-Karaman yöresinden gelen Kara Ali adında bir Türk tarafından kurulmuştur.Köye ilk olarak 3 aile gelmiştir.Köye zaman içinde İstanbul`dan,Erzurum`dan,Kaman`dan,Gerede`den,Elmadağ`dan,Konya`dan,Karaman`dan,Aksaray`dan,Koçhisar`dan göçler olmuştur.Karaali Beldesi Osmanlı Devleti zamanında Kaza Merkezidir(Bugünkü İlçe).Daha sonra Bala Kasabasına 1877-1878 Osmanlı-Rus Savaşında Kafkas Göçmenleri gelince(93 Muhacirleri olan Çerkezler) ve Karaali Beldesi Ankara-Kırşehir yolunun 6 Km içerisinde kaldığı için 1887 yılında Kaza Merkezliği Karaali`den alınıp Bala`ya verilmiştir.Bundan sonra Karaali Nahiye olmuştur.Daha sonra Karaali`nin elinden Nahiyelik de alınıp Köy yapılmıştır.1990 nüfus sayımında nüfusu 2104 çıkınca, nufusu 2000`nin üzerinde olduğu için 1992 yılında Belediyelik yapılmıştır.Köy Birinci Dünya Savaşına 95 yiğidini göndermiştir.Bunların 90 tanesini geri dönmeyip şehadet şerbetini içmiştir.Cumhuriyet Döneminin 4.Ankara Müftüsü olan Hamza KORU (1933-1940) Karaalilidir.
Yukarıdaki bilgiler kaba hatlarıyla doğru olmakla bereber eksiktir. Türkiyede iki örnek dışında (Birisi Karaman Ermenek diğeri Bursa`da bir belde) Sıfırdan kurulmuş bir yerleşim yeri hele hele kaza yoktur. Karaali Beynam ormanının güney yamaçlarına kurulmuş, sineğe, sıtmaya, kuzey rüzgarlarına, temiz su kaynaklarına olan yakınlığı binlerce yıl içinde yanıla yanıla milimetrik ayarlanmış bir kasabadır. Dolayısıyla bir Roma Şehri üzerindedir. Karaali`nin Karamanlı Yörüğü olma ihtimali çok düşüktür. Fetih duygusu taşıyan bir aşiret değildir Karamanlı, Orhan Gazi dönemine denk düşen 1350`lerde eski Ankara Ahi Cumhuriyeti nüfuzundaki bir bölgeye ilişkin iskan kararının Ahiler ve dolayısıyla genç Osm. beyliğinden habersiz olması çok zordur. Kaldı ki, o yıllardan bir oymak yaşadığı yöreyi değiştiriyorsa bu değişim genellikle batıya doğrudur. Tersi ancak Osmanlı`nın iskan politikasıyla mümkündür.Bu bakımdan Karaali`nin Orhan komutanlarından biri veya bir derviş (türbesi olmadığı için çok zayıf ihtimal) veya bir Ahi büyüğü olması kuvvetle muhtemeldir.
Karaali birinci dünya savaşı sonrasın da da, ilk savaşa yetişemeyen gönüllü gençlerinden bir süvari çete teşkil etmiştir. Yörenin birlikleri, kuvva gücü olarak yakın bölgelerde savaşmışlardır. Son olarak Sakarya meydan muharebesine, çevre köylerle birlikte, Kuyrukçuzade Ahmet Efendi (Not bugün yörede yaşayan kuyrukçularla bir ilgisi yoktur)önderliğinde 400 atlı olarak katılmışlar ve bunlardan 19 kişi geri dönmüştür.
Yalnızca 4. Ankara müftüsü değil, Rifat Börekçi de Karaali kökenlidir. Ankaranın ilk ittihatçılarından Beynamlı Hacı Musatafa Hoca ile birlikte kurtuluş savşının zeminini oluştumuş vatanperver kadro içinde önemli vazifeler görmiştür.
