Şam ve Bağdat valilikleri yapmış Gürcü Mehmet Necip Paşa'nın küçük oğlu olan Mahmud Nedim Paşa 1818 yılında doğdu. Eğitiminin ardından devlet memuriyetine başladı. Mektub-i Sedaret ve amedi kalemlerine girdi. Daha sonra Bursalı Said Paşa'ya divan katibi oldu. Ardından mektub-i sedaret yardımcılığına getirildi. Sonra sırasıyla mektub-i sedaret muavini, sedaret mektupçusu, Divan-ı Humayun amedi yardımcısı, amedi ve beylikçi yapıldı. 1854'den itibaren sedaret müsteşarlığına ve Hariciye Nazırlığı müsteşarlığına getirildi.
Şubat 1825'de vezir şeref unvanı verilerek Sayda Valiliği'ne tayin edildi. Sırasıyla Şam valisi ve İzmir valisi olarak atandı. Daha sonra İstanbul'a gitti. Bu dönemde Meclis'i Tanzimat üyesi ve Hariciye Nazırı olarak çalıştı. Ağustos 1858'de Ticaret Nazırı olarak tayin edildi. Temmuz 1860'da kendi isteği üzerine Trablusgarp valisi yapıldı.1876 yılında İstanbul'a döndü ve Meclis'i Vala üyeliğine tayin edildi. Ağustos 1867'de Devai Nazırı ve Mart 1868'de ikinci kez sedaret müsteşarı oldu. Hakkı Paşa öldükten sonra doğrudan doğruya saray tarafındın Bahriye Nazırı yapıldı.
Mahmud Nedim Paşa, Sultan Abdülaziz ile yakın ilişkiler kurmuştu. Padişah'ın monarşik idare hakkı olduğunu söylüyordu. Bu nedenle Abdülaziz'in gözüne girmişti. Sadrazam Ali Paşa 7 Eylül 1871 tarihinde öldüğünde sultanın şahsi tercihiyle sadrazamlığa getirildi. İlk icraatı daha önce Osmanlı Devleti'nin batı Avrupa Devletleri'ne dayanan politikasını tayin eden Ali Paşa'nın siyasetlerini değiştirmeye çalışmak oldu. Bunun için öncelikle Ali Paşa'nın ailesini, dostlarını ve devlet içinde birlikte çalıştığı iş arkadaşlarını görevlerinden aldı.
Dönemin Rusya büyükelçisi Nikolay Pavloviç İgnatyev'e bağlılık gösterip Osmanlı Devleti dış siyasetini Rusya'yı takip eder hale getirdi. Rusya sevgisi yüzünden İstanbul siyasi çevrelerinde lakabı "Nedimof"a çıktı. Bu durum Osmanlı'nın batı Avrupa devletleri yanında itibarının kırılmasına ve devletin yalnız kalmasına sebep oldu. İçişlerinde takip ettiği sorumsuz merkeziyetçi siyaset Abdülaziz'in halkın sevgisini kaybetmesine ve Balkanlarda milliyetçiliğinin önem kazanmasına neden oldu. Bu kötü gidişat Mithat Paşa tarafından Sultan Abdülaziz'e bildirildi. Bunun üzerine 31 Temmuz 1872 tarihinde Abdülaziz, Mahmud Nedim Paşa'yı sadrazamlık vazifesinden azletti.
Temmuz 1872'de Kastamonu Valiliği'ne atandı. Böylece İstanbul'dan uzaklaştırıldı. Fakat yeni sadrazam olan Mithat Paşa onun sadrazamlığı sırasında yaptığı yolsuzlukların ve Hazine-i Maliye'yi soktuğu zararların hesabının sorulmasında ısrar ettiği için İstanbul'a geri çağrıldı. Ancak yapılan araştırmalar sonunda bir sonuç alınamadı ve Mahmud Nedim Paşa Trabzon'a zorunlu sürgüne gönderildi. Ekim 1873'de Adana valiliğine tayin edildi. Bu dönemde Hersek isyanı çıktı ve ülke büyük bir siyasi kriz içine girdi.
Sultan Abdulaziz, Mahmud Nedim Paşa'nın Rusya yakınlığını bildiği için kendisini 21 Ağustos 1875'de İstanbul'a çağırttı ve ona Şura-yı Devlet üyeliği görevini verdi. Nedim Paşa eğer kendisine iktidar verilirse isyan meselesini 15-20 günde çözebileceğini sultana bildirince, 26 Ağustos 1875 tarihinde ikinci kez sadrazamlığa getirildi. Fakat sadrazam olduğunda Hersek İsyanı'nı bastıramadı. Bunun yanında ayaklanmalar Sırbistan, Bulgaristan ve diğer bölgelere de yayılmaya başladı.
Mahmut Nedim Paşa'nın isyana karşı aldığı tedbirler sonuçsuz kaldı. Ayaklanmalar nedeniyle gereken yüksek askeri harcamalar devlet maliyesini büyük ölçüde sarstı. Yeni vergiler koyma imkanı yoktu ve o zamana kadar devlet maliyesi yüksek faizlerle dış borç almaya dayanmaktaydı. Bu arada medrese öğrencileri de derslerine girmeyip Fatih ve Beyazıt meydanlarında gösteriler yapmaya başladı. Mahmut Nedim Paşa, başarısızlıkları nedeniyle 12 Mayıs 1876 tarihinde sadrazamlıktan azledildi.
Önce Çeşme'ye sürgün edildi. Buradan da Sakız Adası'na gönderildi. 31 Ağustos 1876'da II. Abdülhamit padişah olduktan sonra affedildi. 1879 başlarında Musul valisi olarak tayin edildi. Fakat hemen ardından İstanbul'a dönmesi emri gönderildi. Sadrazam olan Ahmed Arifi Paşa'nın muhalefetine rağmen Dahiliye Nazırı olarak göreve getirildi. Nedim Paşa, 1882 sonlarında hastalandı. Rahatsızlığı uzun sürdüğü için vazifesinden alındı.
Mahmut Nedim Paşa, 14 Mayıs 1883 tarihinde vefat etti. Cenazesi Mahmudiye Caddesi üzerinde bulunan türbesine gömüldü.