Az utca névadója Rombach (Rumbach) Sebestyén orvos, akinek tulajdona volt 1806-tól 1833-ig az akkori Országút (ma Károly krt.) 9. szám alatti átjáró-ház. E házat Pauer háznak hívták építtetőjéről, mielőtt Rumbach megvásárolta. Az átjáróház másik kijárata egy addig névtelen utcára nyílt; minthogy Rumbach közismert és nagy tiszteletnek örvendő orvos volt, róla nevezték el az utcát, 1874-ben. A Rombach család Németországból származott. Rombach Mátyás az 1700-as évek közepén költözött hazánkba. Nagybányán telepedett le, s ott volt orvos: előbb katonai, majd bányaigazgatósági sebész. Fia, Sebestyén is az orvosi hivatást választotta. Bécsben avatták doktorrá 1788-ban. Terézvárosban kezdte el orvosi praxisát. A Podmaniczky és a Munkácsy utca találkozásánál létesítette Pest első gyógyfürdőjét. Hamarosan hírnevet szerzett magának. Nem csak a szegény betegeket gyógyította ingyen, hanem a budai és pesti katonai kórházakban való szolgálatáért sem fogadott el tiszteletdíjat. Önzetlensége a rászoruló betegeken kívül kivívta az uralkodó elismerését is, melynek eredményeként - már mint tiszti orvos - nemesi címet kapott.

A Rumbach Sebestyén utca a Wesselényi és a Király utcát köti össze. Ha e keskeny utcában sétálunk, biztosan szembetűnik a megkapó szépségű, egzotikus, csipkefinom díszítésű, háromemeletes zsinagóga, mely a 11-13. szám alatt áll (egykor 8. szám). A Rumbach Sebestyén utcai zsinagóga 1872-ben épült Otto Wagner tervei alapján. A zsinagóga utcai homlokzata szimmetrikus, a homlokzat középső részét két oldalról egy-egy nyolcszögű falpillér emeli ki, melyek fölül kis kupolás tornyokban folytatódnak. A középső homlokzat további érdekessége a gazdag díszítésű keretbe összefogott kettős ablakok.

Érdemes az épület színezését is szemügyre venni. A szürkés sárga vakolt felületeket vörös téglából készült csíkok díszítik. A vörös csíkokban kék színű zománcos téglák láthatók egymástól egyenlő távolságban elrendezve. Az oromzaton Mózes két kőtáblája jelzi az épület rendeltetését. A zsinagóga belseje lenyűgöző, különösen a nyolcszögletű, tágas, magas, díszes kupola látványa. A kupolát nyolc karcsú vasoszlop tartja. Feltűnően szépek a mór jellegű Alhambra oszlopfők. A zsinagóga falait minden oldalon más mór mintázatú reliefek díszítik, az arany, a kék és a vörös szín variálásával. A díszítések minden felületet kitöltenek, még a fagerendás mennyezetet is. Olyan hatást kelt így, mintha kazettás mennyezet lenne. Wagner a zsinagóga díszítőmotívumait a mór Spanyolországból, Kairóból és Isztambulból ötvözte egységessé.

A Rumbach Sebestyén utcai zsinagóga 1872-ben épült Otto Wagner tervei szerint A zsinagóga kupolája A kupolát tartó karcsú vasoszlopok, díszes oszlopfők A zsinagóga melletti Rumbach utca 9. számú felújított ház homlokzata A Rumbach utca részlete