Az épület őskora az idők homályába vész. Az alapokból arra lehet következtetni, hogy már a IV. században állt itt egy kis temetőkápolna. Budapest 1945-os ostroma után a kápolna romjainak eltakarítása kózben a szentély alatt egy "háromkarélyos kamra" maradványaira bukkantak. A CELLA TRICHORA ez a latin neve az ilyen elrendezésű ókeresztény temetői kápolnáknak - négyzetes, kisméretű középteret három oldalról, ív alakban épített falak határolják. Így az alaprajz egy lóherére emlékeztet. A negyedik ív helyén a bejárat van. Magyarországon eddig Szombathelyen, Pécsett és Óbudán (Raktár utca) tártak fel ilyen őskeresztény temetőkápolnákat. Ezek - a régészek szerint - a IV. században épülhettek. A római kori eredetet valószínűsíti, hogy az ókori "pestelőtti" városka helyén római tábor (castrum) volt, s több lelet szerint is ezen a tájékon lehetett a temetőjük. Nagyon valószínű, hogy a katonák és családjuk körében egyre többen lévő keresztények itt is építettek egy kis kápolnát az akkoriban szokásos "trichora" formában. Ez a hármas elrendezés ugyanis a Szentháromságot jelképezhette az ókeresztény hívők számára. Míg azonban az ókeresztény illetve a római kori eredet - komoly feltárás hiányában - egyelőre csak fikció, a megtalált kövek tanúsága szerint az az építmény, amelynek romjaira a későbbi, Szent Rókusnak és Szent Rozáliának szentelt kápolnát emelték, a X-XI. században épülhetett. Nincs adat róla, hogy ez a nyilván egyházi célokat szolgáló épület milyen volt, és arról sem, hogy falaiból mennyi élte túl a középkor sötét, járványoktól sújtott évszázada. Tény, hogy amikor az időben az 1711. évhez érkezünk "Pest város tanácsa az ismételten pusztító pestisjárvány megszüntetése végett életbe lépett óvintézkedései között, mivel a járványban Isten büntetését vélte fölismerni a város lakóinak bűneiért, Istennel engesztelő szószónokul és védőszentül Szent Rókust és Szent Rozáliát választotta, végül az evangéliumra fogadkozva megígérte, hogy tiszteletükre kápolnát emeltet...". És a kápolna még abban az évben fel is épült. Kibővítésére az 1739-40-es évek nagy pestisjárványa után került sor, amely elkerülte ugyan Pest városát, mégis a rettegő, halálfélelemben élő lakosok Istennek és a két védőszentnek hálát adva, hogy megoltalmazta őket, elhatározták a kápolna megnagyobbítását mostani méretére. 1741-ben, a bővítés megindításakor kezdeményezte Preymeyr György a remeteség bevezetését. A városi tanács 1746-ban remetelakot építtetett a szentély hátsó falához, azzal a feltétellel, hogy a remetének kötelessége legyen a környék facsemetéinek ápolása. A remeteséget az egyházhatóság 1798-ban szüntette meg. Az utolsó Rókus-kápolnai remete, András, 1806-ban hunyt el, a szerviták kriptájába temették. 1751 és 1765 között toronnyal és a homlokzatot díszítő szent szobrokkal gazdagodott a kápolna. Állandó központja lett az évenkénti ájtatosságoknak és körmeneteknek. A szentbeszédeket jeles egyházi szónokok tartották. A közkórház építésekor, 1797-ben, a kápolnát felújították, kialakították a torony sisakjának végleges formáját, a helytartótanács két harangot adományozott. A bejárat fölé zenekarzat épült.