Nizâmiye'den emekli Jandarma Binbaşısı Tahir Efendi'nin oğlu olan Ali Rıza Paşa, 1860 İstanbul doğumludur.
1886'da Harbiye'yi Kurmay Yüzbaşı rütbesiyle bitirdi. Bir yıl sonra Almanya'ya gönderilerek staj gördü. Bu arada Kolağalığa ve Binbaşılığa terfi etti. 1890'da İstanbul'a döndüğünde Kaymakamlığa (Yarbay) yükseldi. Türk-Yunan Savaşı sırasında Askeri Harekât Dairesi Müdürlüğü yaptı. 1898'de Mirlivalığa terfi ederek, Erkân-ı Harbiye-i Umumiye Dairesi'nin Birinci Şube Müdürlüğü'ne getirildi. 1901'de Feriklik rütbesiyle, Beşinci Nizâmiye Üsküp Fırka-i Askeriyesi Komutanlığı'na, 1903'te Manastır Valiliği'ne, buna ek olarak da Manastır Kumandanlığı'na tayin edildi. 1903'te, Manastır Rus Konsolosu'nun öldürülmesinde sorumlu görülerek – Rusya'nın cezalandırılmasını istemesi üzerine – Trablusgarp'ta mecburi ikâmet cezası aldı. Daha sonra 1905'te Yemen'de çıkan isyanı önlemek üzere görevlendirildi. İsyanı bastırması üzerine, 1906'da Hamidiye Demiryolu İşletme Nezâreti'ne tayin edildi.
II. Meşrutiyet'in ilanıyla birlikte, II. Ordu Müşirliği'ne getirildi. 14 Ağustos 1908'de ise boşalan Harbiye Nazırlığı'na getirildi. İttihadçılar'ın itirazı üzerine Sadrâzam Kâmil Paşa tarafından,Mısır Yüksek Komiserliği'ne tayin olunan Ali Rıza Paşa Hükümetten uzaklaştırıldı. Hüseyin Hilmi Paşa'nın Sadareti sırasında tekrar Harbiye Nazırlığı'na getirildi; ancak bu sırada meydana gelen "31 Mart Vakâsı" nedeniyle istifa etti. Balkan Savaşı'nda da görev verilen Ali Rıza Paşa, daha göreve başlamadan Karadağ savaş ilan etti. Balkan Savaşı'ndan sonra Âyân Meclisi üyeliğine getirildi. I. Dünya Savaşı'ndan sonra, çeşitli kabinelerde, Bahriye Nazırlığı, Müfettişlik ve son olarak Meclis-i Vükelâ memurluğu yapmıştır. Ali Rıza Paşa VI. Mehmet Vahdettin saltanatında ve İstanbul'un işgal altında bulunduğu dönemde 2 Ekim 1919 - 8 Mart 1920 tarihleri arasında beş ay yedi gün sadrazamlık yapmış Ali Rıza Paşa'ya bulunduğu görevler sırasında meydana gelen talihsizlikler nedeniyle "Düztaban (uğursuz)" lakâbı da takılmıştır.
Önce gelen:Dağılma Dönemi - II. Meşrutiyet (1908-1918)
Küçük Mehmed Said Paşa (1908-1908) | Kıbrıslı Mehmed Kamil Paşa (1908-1909) | Hüseyin Hilmi Paşa (1909-1909) | Ahmed Tevfik Paşa (1909-1909) | Hüseyin Hilmi Paşa (1909-1910) | İbrahim Hakkı Paşa (1910-1911) | Küçük Mehmed Said Paşa (1911-1912) | Gazi Ahmed Muhtar Paşa (1912-1912) | Kıbrıslı Mehmed Kamil Paşa (1912-1913) | Mahmud Şevket Paşa (1913-1913) | Said Halim Paşa (1913-1917) | Mehmed Talat Paşa (1917-1918)
Dağılma Dönemi - Mütareke (1918-1922)
Ahmed İzzet Paşa (1918-1918) | Ahmed Tevfik Paşa (1918-1919) | Damat Ferid Paşa (1919-1919) | Ali Rıza Paşa (1919-1920) | Hulusi Salih Paşa (1920-1920) | Damat Ferid Paşa (1920-1920) | Ahmed Tevfik Paşa (1920-1922)