On commence à construire un presbytère pour l'église Saint-Joseph's en juillet 1920 et on termine le projet à l'automne 1921. Cette même année, on met sur pied la Catholic Women's League pour la paroisse.
À l'été 1923, les paroissiens entament la construction du sous-sol de l'église au nouvel emplacement. Le sous-sol est conçu pour servir d'église temporaire tandis qu'on recueille des fonds pour achever la construction de l'église. À la fin de janvier 1924, le sous-sol a été béni et il ouvre ses portes à l'assemblée des fidèles pour les messes.
L'année 1928 est féconde en évènements. On entame la construction afin d'achever le bâtiment et, le 23 décembre, on célèbre la première messe dans la nouvelle église.
Le 25 septembre 1928, la nouvelle cloche de l'église est bénie par l'évêque Scollard au cours d'une grande cérémonie. Les noms de l'évêque, du pasteur et du vicaire ainsi que la date du don sont gravés sur un côté de la cloche. Sur l'autre côté de la cloche, on trouve l'inscription suivante : « Cette cloche est présentée à la paroisse Saint-Joseph's de Sudbury, en Ontario, par M. David B. Mulligan de Montréal, Canada ». Durant la cérémonie, W. H. Mulligan, le frère de David B. Mulligan, sonne la cloche pour la première fois.
Aussi au cours de cette année, la paroisse Saint-Joseph's ordonne son premier prêtre dans le sous-sol de l'église. J. A. Mulligan est ordonné le 28 juin 1928.