Jožef Heržič je bil posvečen v duhovnika leta 1867.
Službo župnika na Spodnji Polskavi je začel 26. marca 1882.
Ko je 3. avgusta 1892 slavil 25-letnico svojega pastirskega delovanja, je njegov srebrni jubilej s svojo prisotnostjo počastil tudi mariborski škof Mihael Napotnik, občina Spodnja Polskava pa je »svojega« župnika Jožefa Heržiča razglasila za častnega občana.
Za svojimi predhodniki je nadaljeval pisanje cerkvene kronike (Spominske knjige).
Župnik na Spodnji Polskavi je bil 13 let, do decembra 1894, ko je močno napredoval v cerkveni hierarhiji in bil imenovan za prošta na Ptuju, kamor je odšel v začetku leta 1895. Spodnjepolskavsko župnijo je nato začasno upravljal, takrat še kaplan, Fran Kovačič.
Jožef Heržič je deloval na Ptuju le nekaj več kot dve leti. Umrl je 29. aprila 1897.