La bibliothèque Saint-Sulpice est un magnifique bâtiment de style Beaux-Arts. Selon Guy Pinard, il s’agit de l’exemple « le plus raffiné » du style à Montréal. On le remarque notamment par la richesse de l’ornementation autour des fenêtres et de la porte. À noter l’entablement au-dessus de la porte principale où on retrouve un cartouche montrant un livre ouvert.
Le bâtiment est composé d’un assemblage de trois volumes. Le premier comprend la façade, le second a un toit à pignon et contient les salles de conférence et de lecture, alors que le troisième est rectangulaire, à toit plat et renferme rayons de livres et locaux de services.
L’intérieur de la bibliothèque Saint-Sulpice est également d’une qualité et d’une intégrité exceptionnelles. Richement décorée, la bibliothèque met en valeur des matériaux comme la pierre de Caen (murs des salles publiques), le marbre (plancher du hall, grand escalier, bordures des planchers, plinthes), le chêne (boiseries et mobilier), le bronze (les luminaires et la quincaillerie, les torchères extérieures). Les vitraux qui ornent la façade et les caissons de plafond de la grande salle ont été réalisés par la maison Henri Perdriau.