A templom építésének gondolata az 1910-es évekre nyúlik vissza, azonban érdemben csak Prause József plébános gyömrői működése alatt vált valóra.
Ő 1929-ben először a kultúrházat építi fel, itt tartották az istentiszteletet a templom felépüléséig.
A templom terveit Lechner Lóránt készítette.
1935-ben gróf Széchenyi Gyula építési vállalata elvégezte a statikai számítást és elkészítette a költségvetést és a részletterveket.
A kivitelezési munkák levezetésére Horváth Imre és Schulok Mihály kaptak megbízást.
A kitűzés 1935. januárjában, az első kapavágás 1935. február végén megtörtént. Az alapkőletétel 1935. október 13-án volt.
1938-ban az építkezés folytatására kiírt pályázaton Hajagos Andor nyerte el a munkát. Az asztalos szerkezeteket Dochnál Dezső és Schrauf József készítették, a villany-szerelést Fürtös László. Az oltár és az egyéb műkő munkák Szabó László műve. A színes üvegablakok elkészítésével Palka Józsefet bízták meg. Az ablakokat szponzorálók nevei szerepelnek az üvegeken.
Az építés 1938. szeptember 11-én a templom felszentelésével befejeződött.
Az anyagi körülmények miatt az eredetileg tervezetthez képest elmaradt a két torony és a köztük lévő rész felépítése. A templom a mai napig így áll.
1954-ben orgonát kapott a templom, 1954-55-ben karzat épült, mely id. Pál Mihály munkája. 1959-ben az áldoztató-rács helyett műkő mellvéd készült, a domborműveket szintén id. Pál Mihály készítette.
A templombelsőt 1955-ben Szilágyi Lajos festette ki.
Az új liturgikus teret 1979-ben alakították ki.
Az ideiglenes harangtorony 1981-ben készült Percel Dénes tervei alapján.
A templomnak az eredeti terveknek megfelelő befejezése a mai kor embereinek feladatává vált. A gyömrői római katolikus közösség elhatározta, hogy a templom befejezésének munkálatait az anyagi segítség függvényében elindítja. A Jézus Szíve Római Katolikus Plébániatemplom méltó befejezése Gyömrő ügye, mint ahogy annak idején az egész lakosság felekezetre való tekintet nélkül összefogott az építésére. 2005-2006-ban a templom teljes belső felújítása elkészült. Most még szebb pompában várja a híveket napról-napra, hétről-hétre.
Itt kell említést tennünk a templomban működő Eszterházy Pál Katolikus Énekkarról.
Gyömrőn a történelmi időkre visszatekintve több mint 100 esztendeje működnek színjátszó körök, énekkarok, dalárdák, zenekarok a kultúra szolgálatában. Ezen időszak egyik kiemelt énekkara az Erkel Ferenc nevét viselő gyömrői férfikar volt 50 éven át. Városunk zenei és énekkultúrájának művelői napjainkban egyre gyakrabban lépnek a közönség elé. Nincs ez másképp kórusunkkal sem.
Az énekkar 1995 őszén alakult 5 lelkes fiatal kezdeményezésére Novák Gyöngyi vezetésével. Eleinte zsoltárokat és kisebb kétszólamú műveket énekeltünk. A már létszámban is megnövekedett énekkart Kéri Béla és Barabás Miklósné kántor vezette. A helyi szolgálaton kívül meghívásokat kaptak és kapnak a környékbeli templomokba is, illetve két alkalommal részt vettek a váci egyházmegyei kórustalálkozón is. A kórus 1996-ban vette fel jelenlegi nevét, és azóta Eszterházy Pál Katolikus Énekkarként ismernek bennünket. Sokan tudják Önök közül, hogy névadónk, Eszterházy Pál Magyarország nádora volt, egyben zeneszerző, legfőbb műve a Harmónia Celestis, mely a magyar barokk zeneművészet egyetlen európai rangú emléke.
Ekkor vállalta el a karnagyi teendőket Bagóczky Tamásné, aki hosszú éveken át áldozatos munkával vezette a kórust. A kórust egy rövid ideig Angyal Jenőné vezette, majd a karnagyi teendőket 2006. szeptember 1-jével Tarnóczyné Varga Csenge vette át.
A szentmise szolgálatokon kívül rendszeresen részt vállalnak a városi ünnepeken, ökumenikus alkalmakon, s évek óta önálló koncertekkel is fellépnek. Ilyen például - a már említett - II. Rákóczi Ferenc gyömrői beszédének emlékére évenként megrendezett Országos Rákóczi Napok keretén belül a falusi Nepomuki Szent János Római Katolikus Kápolnában adott nagy sikerű ünnepi hangverseny.