Szombathelyen született, édesapja helyi kőművesmester volt. Ez bizonyára meghatározó erőként hatott élete alakulására: a polgári iskola elvégzése után ez indította őt az építőipar felé. 1942-ben kőműves-tanuló lett s 1944-ben szerzett képesítést. Édesapjától nem csak választott szakmája szeretetét, hanem a pontos, lelkiismeretes, gondolkozva végzett munka igényét is megtanulta, örökölte; ez jellemzője volt egész élete során. Igényessége magasabb ismeretek elsajátítására ösztönözte: 1944-ben beiratkozott a budapesti Állami Felsőépítőipari Iskolába, ahol 1947-ben nyert képesítést.

Ez időtől kezdve 1953-ig sokféle munkakörben dolgozott előbb technikusi, később üzemgazdasági előadói, majd építésvezető beosztásban. Utóbbi feladatkörben a Hídépítő Vállalatnál a Balatonszabadi Rádióállomás építését vezette.
Magasépítési előadóként a Közlekedési Minisztérium munkatársa is volt, majd ismét építésvezető a Közlekedési Vállalatnál Miskolc körzetében. 1954-1962-ig szülővárosában ill. környékén dolgozott műszaki vezetői munkakörökben.
Lelkiismeretes, fegyelmezett munkáját mindenütt nagyra értékelték. Ennek jeleként számtalan vállalati kitüntetést kapott, sőt 1951-ben az Elnöki Tanács a Magyar Munka Érdemérem bronz fokozatára ítélte méltónak.

Életének szakmai - és emberi-családi - átalakulása 1962-vel kezdődött: ekkor az Országos Műemléki Felügyelőség Szombathelyi Építésvezetősége állományába került művezetői beosztásba. E minőségében két nagyjelentőségű feladata volt: a körmendi Batthyány-kastély, ill. az egervári várkastély helyreállítása. Különösen ez az utóbbi jelentett új szakmai próbatételeket neki (alapozás megerősítése, a tetőszerkezet megőrző felújítása, a megrokkant udvari árkádok bontás nélküli korrekciója, stb.). E munkákon nemesedett benne az a képessége, hogy minden feladatot egyediként tudott kezelni és hatalmas szakmai felkészültséggel, az építész és statikus tervezők egyenrangú partnereként megoldani. Itt válik ízig-vérig műemlékessé, a régi épületek gondoskodó megmentőjévé.

Nem volt meglepetés, amikor 1964-ben felettesei az OMF Soproni Építésvezetőségének vezetésére kérték fel. Itt, az egyre több, mindig új és új feladatok között teljesedett ki alkotókészsége, szakismerete, fantasztikus munkabírása, kezdeményező ereje - és főleg csendes, jó humora, kollegialitása, szeretetreméltó embersége. Itt érett meg benne a képessége, hogy a munkakörével, beosztásával együtt járó nagyon sok feladat között mindig időt tudott szakítani, figyelmet fordítani arra, hogy a megszokottnál jobban, újszerűbben közelítse meg a műemlék épületek helyreállítási folyamatait. Különösen sokat foglalkozott az épületek felnedvesedésének problémáival, a homlokzatképzések szakszerűségével; sok soproni épület (pl. Sopron: Templom utca 5., 6. Színház utca 21.) máig dícséri az általa kezdeményezett újszerű megoldásokat. 
Szalay József a sok feladat megvalósításában mindenütt csillogtatta személyes képességeit. Nagyon jó munkatársi csapattá formálta az Építésvezetőséget, s minden munkatársától elvárta az építés, a statikus, a gépésztervezővel, a kutató művészettörténészekkel való alkotó, egymás munkáját segítő együttműködést. Maga ebben példaadóan élen járt.
Képességeit, szakmai tehetségét új munkahelyén is elismerések sora kísérte, melyek közül az 1968-ban kapott Munka Érdemrendre volt különösen büszke. A nagycenki kastély helyreállítási munkáiért 1973-ban az építésügyi minisztertől Miniszteri Dicsérő oklevelet vehetett át. Munkáját a korabeli újságcikkek is dicsérik a Soproni Szemlében, a Kisalföld, Magyar Hírlap, Magyar Nemzet c. napilapokban.
Szakmai tanulmányúton 1970. júliusában Lengyelországban járt. Az Egyiptomban tett tanulmányút 1974-ben életének mintegy lezárójává is vált: visszatérte után nem sokkal, méltatlanul fiatalon halt meg. Emlékét példája és alkotásai megőrzik.

Irányításával végzett műemlék helyreállítások:

• Egervár, várkastély
• Körmend: Batthyán-kastély
• Balatonszentgyörgyi és Szalafői népi műemlékek
• Sopronban: Tűztorony és a városfal több szakasza
• Szent György templom tornya
• Fabrícius-ház
• Rejpál-ház
• Balfi út 15.
• Halász u. 1.
• Kolostor u. 1.
• Pozsonyi u. 3.
• Szentgyörgy u. 2.
• Szentlélek u. 7. és 13.
• Színház u. 21. és 32.
• Templom u. 5., 6. és 14.
• Új u. 7., 10., 18. és 30.
• az Orsolya tér homlokzatai
• v. Ferences-templom homlokzata
• Pannonhalma: könyvtár homlokzata
• Magyarfalva: rk. templom
• Fertőrákos: kastély és vízimalom
• Győr: Hédervári-kápolna
• Kreszta-ház
• Köztársaság u. 6.
• Nagycenk: Széchenyi-kastély