Urodził się 3 listopada 1894 r. w Sieradzu. Syn Piotra i Teofili.
Ukończył sześć klas gimnazjum przyrodniczo-matematycznego.
Przez dziewięć miesięcy należał do drużyn „Sokoła”.
W czasie I wojny światowej od 23 kwietnia 1915 r. w Legionach Polskich. Od 25 kwietnia 1915 r. w baonie uzupełniającym, a od 25 maja w 4 komp. V baonu 7 pp LP. Do 16 listopada 1915 r. przebywał w szpitalu twierdzy nr 4 w Krakowie, a od 28 grudnia w Domu Uzdrowieńców LP w Kamieńsku. Po rekonwalescencji w lutym 1916 r. był żołnierzem 3 komp. III baonu 1 pp LP. Ranny 6 lipca w bitwie pod Kościuchnówką. Uzyskał stopień st. szer.
Po kryzysie przysięgowym w Legionach z lipca 1917 r. internowany przez Niemców w Szczypiornie, skąd po kilku tygodniach zbiegł na teren okupacji austriackiej i wstąpił do Polskiej Organizacji Wojskowej. Aresztowany przez Niemców, był więziony w Łodzi i Warszawie.
Uwolniony, w 1918 r. wstąpił do Polskiej Siły Zbrojnej. Od maja służył w 2 pp PSZ. Brał udział w rozbrajaniu Niemców w W arszawie w listopadzie, po czym automatycznie przeszedł do Wojska Polskiego.
W szeregach 7 pp leg (b. 2 pp PSZ) brał udział w walkach na froncie czeskim, a potem ukraińskim i bolszewickim. Ranny 20 lipca 1920 r. Dowodził plut. 8 komp.
Dnia 21.9.20 r. w kontrataku na wieś Brzostwiczany sierż. sztab. Balcerzak Józef, znajdując się z plutonem, na skrzydle atakującej komp. 8-ej i wykorzystując naprężoną uwagę zaabsorbowanego nieprzyjaciela od frontu, gdzie walczy reszta komp. o przeagę ogiową, zdecydowanym manewrem przesuwa pluton na tyły linji tyraljerskiej nieprzyjaciela i atakiem na bagnety zmusza go do opuszczenia okopów, decydując o zwycięstwie; bierze 19 jeńc. i jeden kar. masz., następnie mimo trzykrotnych ataków utrzymuje nakazany odcinek.
Zdecydowany czyn sierż. sztab. Balcerzaka Józefa świadczy o osobistej odwadze i wybitnej inicjatywie sierż. sztab. Balcerzaka Józefa jako d-cy plutonu [z wniosku kpt. Jana Michnowicza na order Virtuti Militari].
W 7 pp leg służył do 1928 r. Zweryfikowany jako por. piech. z 1 sierpnia 1920 r. Następnie w Baonie Podchorążych Rezerwy Piechoty nr 9a w Łukowie. 1 stycznia 1929 r. awansował na kpt. piech. W tym też roku przeniesiono go do Szkoły Podchorążych Rezerwy Piechoty w Zambrowie. Sprawował funkcję instruktora, a od 1930 r. był niej dowódcą 3 komp. Od 1931 do co najmniej 1935 r. służył w 28 pp. Sprawował funkcję dowódcy komp. Uzyskał maturę w Gimnazjum Państwowym Jana Czarnieckiego w Chełmie Lubelskim. 19 marca 1939 r. awansował na mjr. piech. Wiosną 1939 r. był dowódcą dywizyjnego kursu podchorążych rezerwy 29 DP. Od sierpnia dowodził baonem marszowym 76 pp.
Na jego czele uczestniczył w kampanii 1939 r. Początkowo uczestniczył w przygotowaniach do obrony Grodna, po czym z baonem skierowano go transportem kolejowym na południe. Od 17 września uczestniczył w walkach z Sowietami w ramach pułku KOP „Sarny”.
Dalsze jego losy są nieznane.
Odznaczony orderem Virtuti Militari 5 kl., Krzyżem Niepodległości, trzykrotnie Krzyżem Walecznych i srebrnym Krzyżem Zasługi.
Żonaty, miał syna Janusza (ur. 22 VIII 1925) i córkę AlicjęMarca (ur. 24 III 1930).
CAW, I.482.69-6092; J. Cisek, E. Kozłowska, Ł. Wieczorek, Słownik Legionistów Polskich 1914-1918 t. 1, Kraków, Warszawa, Zalesie Górne 2017; W.K. Cygan, Kresy w ogniu. Wojna polsko-sowiecka 1939, Warszawa 1990; W.K. Cygan, Żołnierze Niepodległości 1863-1938. Słownik biograficzny t. 3, Mińsk Mazowiecki-Warszawa-Kraków 2011; J. Łukasiak, Szkoła Podchorążych Rezerwy Piechoty, Pruszków 2003; „Monitor Polski” 1931, nr 251; V Lista strat Legionów Polskich, Piotrków 1916; Rocznik oficerski 1923, 1924, 1928, 1932; R. Rybka, K. Stepan, Rocznik oficerski 1939, Kraków 2006.