Pest város növekvő lakossága már a XVIII. sz. első évtizedeiben sem fér el a város falain belül. Sorra alakulnak a külső települések. A városi tanács 1766-ban a településeket a Kerepesi (ma Rákóczi) út vonalával két részre osztva, közigazgatásilag megszervezi a Felső- és Alsó-külvárost. Az Alsó-külvárosnak 1777. november 7-én a városi tanács a Józsefváros nevet adja. Ugyanezen évben e területen Batthyány József hercegprímás Szent József titulussal plébániát alapít. Előzőleg domonkos és pálos szerzetesek miséznek a néhány száz, szétszórtan élô hívőnek különféle (Rókus, Kálvária, Óhegyi) kápolnákban. Az új plébánia első temploma a mai helyén fából készül. A kőtemplom építését 1797-ben kezdik meg Tallher József terve alapján és 1798-ban már használatba veszik. A tornyok 1810-ben készülnek el. Kasselik Fidél (1814), majd Barcza Elek (1891–95) az előzőleg klasszicista stílusú templomnak a millenniumra adja meg gazdag, neobarokk díszbe öltöztetve, mai alakját (900 m2). Az 1838-as árvízzel dacol a templom, de az egyszerû napszámos és kézműves híveinek 1342 szegényes házából 900 romba dől. A hívek háromnyelvűek: német, szlovák, magyar. Az első magyar szentbeszéd 1870-ben hangzik el a templomban. Az árvíz után 100 évre a plébánia híveinek száma eléri a 120 ezret; ekkor Európa legnagyobb plébániájaként emlegetik. Területén a Nap u. 33. szám alatt Simor János hercegprímás katolikus elemi leányiskolát alapít. Az első világháború után pedig a bencések nyitnak gimnáziumot a Baross u. 62. sz. alatt. 1928-tól megkezdődik a hatalmas plébánia felosztása. Négy új plébánia alakul területébôl. – 1979–1980 között a műemlék jellegű templomot a Műemlék Felügyelőség, a főegyházmegyei hatóság és a hívek áldozatkészségébôl külsőleg renoválják. – A Főváros tulajdonában levő plébániaház egyházi kezelésben van. A templom az 1997. évi LIV. törvény alapján 15 618. törzsszám alatt II. kategóriába sorolt műemlék.