Après le torchis dont elle était faite, une nouvelle église beaucoup plus résistante fut construite en pierre; les vestiges de cette église, qu'on peut découvrir en remuant le sol à proximité du caveau des de Bourgognes, était orientée de l'Ouest  à l'Est selon l'ancienne coutume, le choeur, peu éloigné du château féodal, communiquait avec ce dernier par une issue qui permettait d'atteindre le pont-levis du vieux castel.

      Après l'incendie du château fort et du village par les Français en 1478, il est très probable qu'on dut relever les ruines du temple en même temps que celles du manoir. L'église fut donc reconstruite en pierre de Tournai, elle défia les intempéries jusqu'en 1784, date à laquelle il fut décidé de la démolir pour construire l'édifice actuel, orienté de toute autre façon.

      Notre église, de style semi-classique, fut rebâtie en 1784, par un entrepreneur appelé Mathieu, pour le prix de 7.200 florins. Elle fut dédiée à St Ghislain et à St Denis et fut bénie l'année suivante par Mr le curé de St Léger.

      A l'intérieur, on remarque trois nefs. Les voûtes, à plein cintre, sont supportés par cinq colonnes monocylindriques. L'autel est orné d'une toile représentant le Christ en croix; mais ce qui la rend intéressante, c'est le tombeau qu'elle contient, celui de Gilbert de la Broye, seigneur du lieu, ainsi que la belle lame funéraire d'un autre seigneur local, le chevalier Philippe d'Ollehain.

Les orgues.

      Notre église paroissiale fut dotée de nouvelles orgues qui furent inaugurées le 31/08/1930, il est intéressant de noter que l'instrument, don de la famille Clovis Poullet, bourgmestre, vient de la Maison Delmotte de Tournai.

Les vitraux.

      Avant la grande guerre de 1914-18, le choeur de l'église d'Estaimbourg était orné de deux vitraux qui avaient été donnés par Mr. Charles de Bourgogne, ancien  bourgmestre, ils portaient effectivement les armoiries de la famille. Ces oeuvres d'art furent détruites par le bombardement de 1918.

        Quant les révolutionnaires français entrèrent à Estaimbourg, en mai 1794, la paroisse était desservie par Mr; l'abbé Delcourt qui était alors très âgé et impotent. La soldatesque le força à prêter le "serment constitutionnel", serment q!aucun prêtre vraiment digne ne pouvait accepter. Sur un refus, les révolutionnaires se rendirent à l'église qui était toute proche du presbytère, et en rapportèrent les cierges qu'ils avaient trouvés. Sans mot dire, ils lièrent alors le prêtre sur son fauteuil, y attachèrent les cierges, les allumèrent et ... le malheureux vieillard périt complètement carbonisé.

2°     Mr; l'abbé Delcourt avait un "coadjuteur" nommé Duchatel, homme très vigoureux et avisé. Quand les révolutionnaires entrèrent chez lui, il les fit boire plus que de raison et, profitant de leur ivresse, s'enfuit à la dérobée. Quelques temps après, les soldats s'aperçurent tout à coup de son évasion et se mirent à sa recherche. Une femme qu'ils rencontrèrent trahit malheureusement le courageux abbé, il était blotti dans les fossés du  château. Ils l'abattirent à coup de fusil!    

3°     Quelques mois plus tard, un prêtre français, traqué comme une bête par les émissaires de la République pour avoir refusé de prêter le fameux serment constitutionnel, fut contraint de s'exiler et profita de  son  passage à Estaimbourg pour célébrer la messe.  

         L'abbé pénétra dans notre église suivi de quelques paroissiens. Pendant qu'il célébrait le saint sacrifice, deux soldats révolutionnaires entrèrent subrepticement dans le temple, inspectèrent les lieux et allèrent se poser près de l'autel. Ils laissèrent le temps d'achever la messe; ils lui permirent même de rentrer dans la sacristie pour se dévêtir. Alors, l'abbé qui avait pressenti le danger, crut prudent de s'esquiver et se sauva par une porte secrète (cette porte est aujourd'hui la fenêtre de la sacristie). Ne le voyant pas revenir dans le choeur, les soldats furieux sortirent de l'édifice et se préparèrent à porter leurs investigations en direction de Pecq, quand les regards indiscrets des témoins de cette scène leurs indiquèrent clairement la route à suivre!