Abdülkerim Mahdum 1942 yılında Afganistan’ın Cevizcan vilayeti Kızlayak kasabasında doğdu. İlk ve Orta okul eğitimini, Kızılayak’ta tamamladı. Babası Seracettin Mahdum’un vefatı üzerine ailenin bütün yükünü kendi üstlendi. Bu dönemde Afganistan’ın kuzeyinde bulunan Türk halkının ileri gelenleriyle yakın ilişkiler kurarak kendini sevdirdi. 1968 yılında halkın büyük ısrarları sonucu milletvekili olarak seçildi. 26 yaşında meclise girdi. 

1982 yılında, Afganistan’da yaşayan tüm Türk boylarından toplam 4 bin 500 kişi ile Türkiye’ye geldi. Tokat’ın Yeşilyurt ilçesinde Afganistanda yaşayan Türk asıllı ailelere yardım ve danışmanlık ederek son nefesine kadar Türk asıllı Afganlar için mücadele etti.