Josip (Jožef) Rainer se je rodil marca 1880 očetu Jakobu, mornarju in kasneje komornemu slugi pri grofu Windischgrätzu, in materi Margareti Rainer, rojeni Selan.
Josip je končal realno gimnazijo in se najprej zaposlil pri Južni železnici. Ker pa so bili eden od njegovih bratov ter nečak in tri nečakinje v službi v prosveti, je tudi njega prevzelo učiteljevanje in od leta 1900 do 1903 je opravljal hospitacijo na ljudski šoli v Hrastniku. Pristojna komisija ga je maja 1903 poslala kot pomožnega učitelja v Pojčane, kjer je ostal do februarja 1904. Njegova naslednja služba je bila v Spodji Sveti Kungoti (zdaj Spodnja Kungota, op. ur,) in še isto leto je po odloku Okrajnega šolskega sveta Slovenska Bistrica odšel še vedno kot začasni učitelj na Zgornjo Polskavo. Komisija za ljudske in meščanske šole mu je maja 1907 izdala »usposobljenostno« spričevalo za poučevanje na osnovnih šolah s slovenskim in nemškim učnim jezikom in čez nekaj mesecev je napredoval v stalnega učitelja. Julija 1926 je bil z dekretom prosvetnega ministrstva v Beogradu imenovan za šolskega upravitelja na Zgornji Polskavi. To mesto je zasedel že pred uradnim imenovanjem, februarja 1926 in nato ostal upravitelj vse do svoje smrti. Šolski nadzorniki so ga ves čas njegovega vodenja zgornjepolskavske šole ocenjevali
z oceno prav dobro.
Med prvo svetovno vojno, od 15. februarja 1915 do 3. novembra 1918, je bil v činu poročnika na soški fronti. Novembra 1918 so ga zajeli Italijani in v italijanskem ujetništvu je ostal do 1. februarja 1920.
Josip Rainer, veljal je za strogega in težje dostopnega učitelja oziroma človeka, je na Zgornji Polskavi spoznal vdovo Katarino Kalan in se z njo poročil, živela sta v stanovanju v šoli. Čeprav je bila žena Katarina ob svoji drugi poroki stara že več kot 40 let, sta imela dva otroka, sinova Srečka in Franca. Ob smrti staršev sta bila Srečko Rainer in Franc še mladoletna, je pa zanju skrbel naslednik Josipa Rainerja, upravitelj Ivan Vokač.
Rainerjeva družina je Josip Rainer je svojo domoljubnost in nacionalno ozaveščenost nenehno dokazoval in potrjeval. Tako so med drugim na njegovo pobudo oktobra 1909 ustanovili podružnico narodnoobrambne Družbe sv. Cirila in Metoda za Zgornjo ter Spodnjo Polskavo in Pragersko. Prvi predsednik tega društva je bil zgornjepolskavski nadučitelj Josip Sabati in tajnik Josip Rainer.
Josip Rainer je umrl 5. novembra 1935 na Zgornji Polskavi,  kjer je tudi pokopan.