Kahramanmaraş'ın Tarlacık (eski ismi Berçenek) Köyü'nde dünyaya geldi. 1955 yılında daha sonra Ankara'ya nakledilen Mersin Astsubay Okulu'na kaydoldu. 1960'ta eşi Suna'yı kaçırdı ve 6 ay köyünde kaldı. Bu sırada okulu Balıkesir'e nakledildi. Okul komutanının çabası ile yeniden okula dönen Aşık Mahzuni, 6 ay devamsızlık yaptığına ilişkin bir ihbar üzerine okuldan atılınca yeniden köyüne döndü. 1964 yılında ilk plağı ile müzik piyasasına girdi.

Bir süre Gaziantep'te ikamet ettikten sonra Ankara'ya taşındı. 1989-1991 yılları arasında Halk Ozanları Derneği Genel Başkanlığı'ni yürüten Aşık Mahzuni Şerif, Pir Sultan Abdal Dernekleri Genel Merkez Disiplin Kurulu Başkanlığı, Hacı Bektaşi Veli Anadolu Kültür Vakfı Yönetim Kurulu Üyeliği ve Ozan-Der Onur Kurulu Başkanlığı'nı da yaptı.

2001'in başlarında rahatsızlanarak, kalp ve solunum yetmezliği nedeniyle, JFK Hospital'da yoğun bakım altına alındı. Mayıs ayında, günümüzün Pir Sultan'ı Aşık Mahzuni Şerif, bir kez daha ölümü yenmeyi başardı. Ve aynı yılın Kasım ayında kendisine, "Elhamdülüllah Kızılbaş'ım ve Laikim. Ben değil yedi sülalem kızılbaştır. Bir suç varsa o da dedemdedir!" dediği için, DGM tarafından dava açıldı. Duruşma 27 Aralık 2001 tarihinde DGM'de yapıldı. 2002 Mayıs ayının 17'sinde evli, sekiz çocuk, dört torun sahibi olan Mahsuni Şerif 62 yaşında Almanya'nın Köln şehrinde hayata gözlerini yumdu. Bu ana kadar O, devletin düzenini yıkmak suçundan, hala yargılanıyordu.Mezarı şu an son ikametgahı olan Hacı Bektaş Veli Külliyesi'nin yakınındaki Çilehane adı verilen bölgededir.

Yıkılası bozuk düzen

Yıkılası Bozuk Düzen
Bıçak Kemiğe Dayandı
Gayrı Bize Yazık Düzen
Gönlümüz Kana Bulandı

Al Birini Vur Birine
Koydu Bizi Heç Yerine
Vay Boyunuz Devrileydi
İnandık Körü Körüne

Ağar Kara Saçım Ağar
Hıçkırık Sinemi Boğar
Bu Yılda Böyle Giderse
Başımıza Taşlar Yağar

Al Birini Vur Birine
Koydu Bizi Hiç Yerine
Deli Miydik Serseri Mi
İnandık Körü Körüne

Gel Mahzuni Söyle Sözü
Harap Ettik Yazı Güzü
Daha Karanlık Basmadan
Üsküdarı Geçti Dürzü

Al Birini Vur Birine
Koydu Bizi Hiç Yerine
Gönlümün Gözü Çıkaydı
İnandım Körü Körüne...