La flèche et son clocher sont restaurés en 1838 et l'horloge est installée en 1904. Gravement endommagé durant la Première Guerre mondiale, l'édifice est en grande partie reconstruit en 1925. Le clocher-porche est entièrement réalisé en grès. Le vocable de l'église rappelle l'ancienne appartenance du territoire à l'abbaye Saint-Géry de Cambrai. L'église est ornée d'une série de vitraux consacrés aux 12 apôtres, inscrits au centre de médaillons, donc le décor rappelle celui de l'école de Saint-Suplice. Saint Matthieu, considéré comme l'auteur du premier Evangile, exerce sa prédication en Ethiopie, où il vainc deux mages, adorés comme des dieux, ainsi que leurs dragons.