Mustafa Barzani blev født i 1903 i Barzan, en landsby i det sydlige Kurdistan, (dengang en del af det Osmanniske Rige). Efter en opstand lanceret af hans stamme, blev han flyttet sammen med sin mor og resten af hans familie i fængsel, på det tidspunkt var Barzani kun 5 år. Hans far, bedstefar, og bror blev senere henrettet af de osmanniske myndigheder for andre opstande. I en tidlig alder gik han sammen med andre stammeledere ind og støttede Sheikh Barzinji s oprør mod briterne i Sydkurdistan.
I 1931 kæmpede han sammen med sin storebror Sheikh Ahmed Barzani mod de irakiske styrker der blev støttet af det britiske luftvåben, og var nød til at overgive sig i 1933.
Mustafa Barzani blev holdt under overvågning indtil 1943, hvor han brød fri fra sit eksil i Slêmanî på kølvandet af 2. verdenskrig og endnu engang startede et oprør, men blev presset ud af Sydkurdistan (Irakisk Kurdistan) og ind i Østkurdistan (Iransk Kurdistan) ledsaget af hans bror, Sheikh Ahmed Barzani og 3000 peshmargaer. Barzani og hans styrker tilsluttede sig Qazi Muhammad, der i 1945 erklærede Mahabad republikken for selvstændigt.
I 1958 vender Barzani tilbage til sydKurdistan og senere starter han og hans styrker endnu et oprør mod det irakiske regime der var styret af Abdul Karim Qasim. Qasim forsøgte at lave en fredsaftale i 1961 og i 1962 men begge forsøg blev afvist af Barzani da Qasim ikke ville anerkende kurdisk autonomi.
Frem til 1970 styrer Barzani og peshmarga styrkerene stort set hele Sydkurdistan, samme år bliver der forsøgt at stable en fredsaftale sammen der inkludere autonomi til Kurdistan og Kurdisk som officielt sprog i Irak. I 1974 godkender den irakiske regering autonomi til Sydkurdistan, men Barzani afviser forslaget da Kêrkûk ikke skal være en del af den kurdiske autonomi.
Samme år stopper Iran forsyningslinjen til Barzani da landet har startet forhandlinger med Irak, det gjorde en ende på det kurdiske oprør. Barzani og 100.000 peshmargaer flygter til Iran.
I 1979 dør Barzani i eksil på et amerikansk hospital hvor han blev behandlet for lungekræft, han bliver fløjet til Østkurdistan og begravet, i 1993 bliver hans jordlige rester flyttet til hans landsby Barzan og genbegravet.