Ali Rıza Paşa Gürcistan’ın önde gelen ailelerinden ve Sefer Paşa’nın torunlarından Mehmet Medet Bey’in oğludur. 1854 senesinde Livane (bugünkü Artvin) kasabasında doğdu.

Mühendishane-i Berrî-i Hümâyûn'da öğrenim gördü. Almanya'ya gönderildi. 1897 yılındaki Osmanlı-Yunan Savaşı'na Alasonya ordusu topçu komutanı olarak katıldı. İkinci Meşrutiyet'ten sonra Tophane ve Askeri Okullar Nazırlığı (Mekatibi Askeriye Nazırlığı), Harbiye nazır vekilliği, Bahriye nazırlığı yaptı. 31 Mart Vakası'nda ayaklananlar tarafından yaralandı.

Trablusgarp Savaşı sırasında Çanakkale mevki komutanıydı. Balkan Savaşı'nda Çatalca ile İstanbul'un savunmaya hazırlanmasıyla görevlendirildi. I. Dünya Savaşı sırasında âyan üyeliğine getirildi, âyan başkan vekilliği yaptı (1920). Mehmed Vahdeddin'in Sevr Antlaşması'nı onaylatmak için topladığı Saltanat Şûrası'na katıldı, tek olumsuz oyu vererek antlaşmaya karşı çıktı. Ali Rıza Paşa 1921 yılında İstanbul’da öldü.