16 Eylül 1950 tarihinde Karabük‘te doğdu. İstanbul Üniversitesi Hukuk Fakültesi’ni bitirdikten sonra bir süre serbest avukat olarak çalıştı.

Refah Partisi Eminönü İlçe başkanlığını yaptı. 1994 yerel seçimleri’nde Refah Partisi’nden Fatih belediye başkanlığına aday oldu. Seçimi kazanmasına rağmen oy pusulalarındaki baskı hatası nedeniyle seçimler iptal edildi. Temmuz 1994’te yenilenen seçimlerde Anavatan Partisi adayı Sadettin Tantan‘a karşı yenildi. 1995 Genel Seçimleri’nde Refah Partisi listesinden İstanbul milletvekili seçilerek TBMM’ye girdi. 1999’da ise Refah Partisi’nin ardılı olan Fazilet Partisi listesinden gene İstanbul milletvekili seçildi.

2002 seçimlerinde Adalet ve Kalkınma Partisi‘nden milletvekili seçildi. Devlet Bakanı (Spor’dan Sorumlu) ve Başbakan Yardımcısı olarak görev yaptı. Adalet ve Kalkınma Partisi’nde Grup Başkanvekilliği görevinin yanı sıra Adalet Komisyonu üyeliğinde de bulundu.

2007 seçimlerinde yine Adalet ve Kalkınma Partisi’nden milletvekili seçilen Mehmet Ali Şahin, Adalet Bakanı olarak görev yaptı.

5 Ağustos 2009’da seçildiği 24. TBMM Başkanı olarak 12 Haziran 2011 tarihine kadar görev yaptı.

12 Haziran seçimlerinde AK Parti’den Zonguldak‘tan milletvekili seçildi.

TBMM Başkanı olan Şahin, evli ve 4 çocuk babasıdır.