Von 1905 bis 1910 besuchte Josef Urbach die Kunstgewerbeschule Düsseldorf, zu seinen Lehrern gehörten Peter Behrens und Fritz Helmuth Ehmcke. 1914 wurde er zum Kriegsdienst eingezogen, wo er als Kriegsmaler an der Flandernfront eingesetzt wurde.
1923 wurde Urbach Professor an der Folkwang-Schule in Essen und unterrichtete die Klassen für Zeichnen, Porträt und Akt. In den 1930er Jahren galt Urbachs frühe Kunst als „entartet“ und Werke von ihm wurden aus dem Museum Folkwang entfernt.
Nach dem Zweiten Weltkrieg übernahm die Stadt Essen Aquarelle des Künstlers und berief ihn ab dem 1. Juli 1948 an die wieder begründete Folkwang-Werkschule. Hier wirkte er erneut als Zeichenlehrer. Mit dem Ende des Wintersemesters 1969/70 trat der damals 80jährige Urbach aus dem Schuldienst. Josef Urbach hat Generationen von Studierenden der Folkwangschule geprägt.
Der Referent Stephan Urbach ist ein Enkel des Künstlers.