1964 yılında Rize Çayeli Kaptanpaşa´da doğan Karaloğlu, ilkokulu Kaptanpaşa´da, ortaokul ve lise tahsilini Rize İmam Hatip Lisesi’nde tamamladı. 1985 yılında İstanbul Üniversitesi Hukuk Fakültesi’ne girdi. Buradan 1989 yılında mezun olan Karaloğlu, avukatlık stajının ardından 1990 yılında kaymakam adayı olarak mesleğe başladı. Karaloğlu, adaylık sırasında 8 ay İngiltere’de eğitim aldı.

1994 yılında Kırıkkale-Karakeçeli Kaymakamı olarak görev yapan Karaloğlu, aynı yıl vatani görevini yapmak üzere bu görevine ara verdi. Askerliğini tamamlamasının ardından yine Kırıkkale-Karakeçeli Kaymakamı olarak görevine geri dönen Karaloğlu, daha sonra sırasıyla:
1996-1998 Şanlıurfa-Harran Kaymakamı,
1998-2000 Yozgat-Çekerek Kaymakamı,
2000-2002 Tokat-Reşadiye Kaymakamı,
2002- 2003 Kırklareli Vali Yardımcılığı,
2003-2004 İçişleri Bakanlığı Hukuk Müşaviri (Başbakan Danışmanı),
10 Haziran 2004 – 14 Haziran 2009 Kocaeli Büyükşehir Belediyesi Genel Sekreteri olarak görev yaptı.
Yerel Yönetimler Kamu İşverenleri Sendikası’nın (YERELSEN) kurulmasına öncülük eden Karaloğlu, Mayıs 2009 ayına kadar Sendika Genel Başkanlık görevini sürdürdü.
12.06.2009-02/08/2013 Van Valiliği,
04.08.2013 tarih ve 28728 Sayılı Resmi Gazete ‘de yayınlanan 02.08.2013 tarihli Bakanlar Kurulu Kararınca Bursa Valiliği görevine atanmıştır.

Kırgızistan Cumhuriyeti’nin köklü üniversitelerinden Mahmud Kaşgari Barskani Doğu Üniversitesi tarafından “Fahri Doktora” unvanına layık görülen Karaloğlu, öğretmen Sevim Hanım ile evli olup, iki kız çocuk babasıdır.