Dès 1665, les offices religieux étaient assurés par des missionnaires itinérants, jésuites et récollets, dans la chapelle du fort Saint-Louis, maintenant appelé fort Chambly. Alors que l’ouverture des registres remonte à 1706, la paroisse de Chambly prit le nom de paroisse St-Joseph en 1739.
La 1re église, en 1739, était en bois et située plus près du bassin. La 2e, érigée en 1757 sur le site actuel, était en pierre. Elle fut ravagée par un incendie en 1806. La 3e, en 1810, aussi en pierre, fut victime des flammes en 1880.
L’église actuelle, beau spécimen de l’architecture religieuse traditionnelle, est donc la 4e église de la paroisse. Elle fait d’ailleurs partie du patrimoine religieux de la Montérégie. Elle a été construite en 1881 sur les anciennes fondations et contient plusieurs sections des murs de maçonnerie datant de 1757.